Taylor 模型：例题与练习

用位移变量建立模型

二阶模型保留一次变化和主要曲率，同时把近似式与误差分开。设 $a=(a_1,a_2)\in\mathbb R^2$，写 $h=(u,v)$，以近似 $f(a+h)$。多项式中的每个导数都在固定基点 $a$ 处计算；变量是位移 $u=x-a_1$、$v=y-a_2$。应计算总次数：$uv$ 是二次项，而 $u^2v$ 是三次项。

对充分小的 $h$，整条线段 $a+th$、$0\le t\le1$ 必须留在函数定义域内。在 $a$ 的开邻域上为 $C^2$，可得到局部二阶展开；要给出数值性的三次误差界，还须知道实际线段上的三阶导数信息。这是不同结论，应分别检查假设。

二阶结论及其假设

定义

海森矩阵与二阶泰勒多项式

若 $f$ 在 $a$ 附近属 $C^2$，其海森矩阵为 $H_f(a)=(\partial_i\partial_j f(a))_{i,j}$。以 $h$ 表示位移，$a$ 处的二阶泰勒多项式为

$$T_2(a+h)=f(a)+\nabla f(a)\cdot h+\tfrac12h^TH_f(a)h.$$

二元情况 $h=(u,v)$ 的二次项为 $\tfrac12(f_{xx}u^2+2f_{xy}uv+f_{yy}v^2)$，所有偏导数均在 $a$ 计算。

定理

二阶泰勒展开

若 $f$ 在 $a$ 附近属 $C^2$，则当 $h\to0$ 时，

$$f(a+h)=T_2(a+h)+o(\|h\|^2).$$

若 $f$ 在线段的某个邻域属 $C^3$，令 $\phi(t)=f(a+th)$，则对某个 $\theta\in(0,1)$，余项等于 $\phi'''(\theta)/6$。特别地，若线段上 $|\phi'''(t)|\le K\|h\|^3$，余项绝对值不超过 $K\|h\|^3/6$。

为什么 C2 足以控制局部余项

设实标量函数 $f$ 在 $a$ 的开邻域上属 $C^2$。取以 $a$ 为中心且包含在该邻域内的小球，并令 $h$ 足够小，使相应线段留在球中。置 $\phi(t)=f(a+th)$。两次使用微积分基本定理，得到

$$f(a+h)=f(a)+\nabla f(a)\cdot h+\int_0^1(1-t)h^TH_f(a+th)h\,dt.$$

直接核验此恒等式时，一变量分部积分给出

$$\int_0^1(1-t)\phi''(t)\,dt=[(1-t)\phi'(t)]_0^1+\int_0^1\phi'(t)\,dt=-\phi'(0)+\phi(1)-\phi(0).$$

链式法则给出 $\phi'(0)=\nabla f(a)\cdot h$ 及 $\phi''(t)=h^TH_f(a+th)h$，所以无需交换多重积分即可证明该恒等式。减去常 Hessian 部分，并利用 $\int_0^1(1-t)dt=1/2$，得

$$R_2(h)=\int_0^1(1-t)h^T[H_f(a+th)-H_f(a)]h\,dt,$$ $$|R_2(h)|\le\frac12\|h\|^2\sup_{0\le t\le1}\|H_f(a+th)-H_f(a)\|_{\rm op}=o(\|h\|^2).$$

上确界趋零，是因为 Hessian 在 $a$ 处连续，而线段上每点与 $a$ 的距离至多为 $\|h\|$。此证明不需要三阶导数，也不提供固定的三次误差常数或无穷级数表示。

在二元情形，$f_{xy}(a)=f_{yx}(a)$ 的对称性给出

$$\frac12h^TH_f(a)h=\frac12f_{xx}(a)u^2+f_{xy}(a)uv+\frac12f_{yy}(a)v^2.$$

乘以 $1/2$ 之前，有两个相等的非对角贡献。漏掉其中任何一个，都会错误地把混合项系数减半。

先核对导数，再使用模型

例题函数 $f(x,y)=e^x\ln(1+y)$ 的开定义域是 $y>-1$。先求导再代入，得到

$$f_x=e^x\ln(1+y),\quad f_y=\frac{e^x}{1+y},\quad f_{xx}=e^x\ln(1+y),\quad f_{xy}=\frac{e^x}{1+y},\quad f_{yy}=-\frac{e^x}{(1+y)^2}.$$

在原点代入，即得到下方例题使用的各个数值。特别地，混合项系数是一，而非二分之一。此函数在整个开定义域上光滑，因此分别完成定义域检查后，便可使用 C2 的局部结论和 C3 的线段估计。

例题与所选练习

例 1：含混合曲率的二次模型。 对 $f(x,y)=e^x\ln(1+y)$ 在 $(0,0)$ 附近展开，要求 $y>-1$。原点处的函数值及各阶导数为

$$f(0,0)=0,\quad f_x(0,0)=0,\quad f_y(0,0)=1,\quad f_{xx}(0,0)=0,\quad f_{xy}(0,0)=1,\quad f_{yy}(0,0)=-1.$$

因此二次模型为

$$T_2(x,y)=y+xy-\frac12y^2.$$

常数项、纯 $x$ 项和纯 $x^2$ 项的系数均为零，因为 $f(x,0)=0$。在 $(0.02,0.03)$ 处，近似值为 $0.03+0.0006-0.00045=0.03015$。要保证误差界，必须约束连接线段上的三阶导数，而不能只因两个坐标看起来很小就断言误差小。

练习

P01. 求 $f(x,y)=\ln(1+x+y)$ 在 $(0,0)$ 处的二次 Taylor 多项式，并写出一个有效的邻域定义域。

P04. 将 $f(x,y)=x^2y$ 在 $(1,2)$ 处展开到二阶，指出剩余的精确三次项。

P07. 设二元函数 $f$ 在包含相关线段的开邻域上为 $C^3$，且线段上各三阶偏导数的绝对值均不超过二。对 $|h_1|\le0.01$、$|h_2|\le0.02$，求二阶 Taylor 误差的上界。

完整解答

P01. 令 $u=x+y$，展开式为 $u-u^2/2$，所以 $T_2=x+y-(x^2+2xy+y^2)/2$。满足 $|x+y|<1/2$ 的邻域位于对数的定义域 $1+x+y>0$ 内。

P04. 令 $x=1+u,y=2+v$。展开得 $2+4u+v+2u^2+2uv+u^2v$。二阶 Taylor 多项式只省去 $u^2v$。

P07. 系数来自沿线段的三阶链式导数，因此

$$|R_2|\le\frac{2}{3!}\left(|h_1|^3+3|h_1|^2|h_2|+3|h_1||h_2|^2+|h_2|^3\right)=\frac13(|h_1|+|h_2|)^3.$$

代入题给的界，误差上界为 $(2/6)(0.01+0.02)^3=0.000009$。

保证误差必须检查整条线段

设实函数在包含 $[a,a+h]$ 的开邻域上属 C3，令 $h=(u,v)$，$\phi(t)=f(a+th)$。反复使用链式法则得

$$\phi'''(t)=f_{xxx}u^3+3f_{xxy}u^2v+3f_{xyy}uv^2+f_{yyy}v^3,$$

各导数都在 $a+th$ 处计算。系数三来自三次求导中重复坐标出现位置的计数；混合偏导相等使用了 C3 条件。所需余项公式可由三次 Rolle 定理证明。定义

$$R=\phi(1)-\phi(0)-\phi'(0)-\frac12\phi''(0),\qquad \psi(t)=\phi(t)-\phi(0)-\phi'(0)t-\frac12\phi''(0)t^2-Rt^3.$$

于是 $\psi(0)=\psi(1)=\psi'(0)=\psi''(0)=0$。在 $[0,1]$ 上用 Rolle 定理，得到 $c_1\in(0,1)$，使 $\psi'(c_1)=0$。对 $\psi'$ 在 $[0,c_1]$ 上使用 Rolle 定理，得到 $c_2\in(0,c_1)$，使 $\psi''(c_2)=0$。最后对 $\psi''$ 在 $[0,c_2]$ 上使用 Rolle 定理，得到 $\theta\in(0,c_2)$，使 $\psi'''(\theta)=0$。C3 邻域假设保证所需的连续性和可微性。由 $\psi'''(\theta)=\phi'''(\theta)-6R$，得 $R_2=R=\phi'''(\theta)/6$。若线段上每个三阶偏导数绝对值至多为 $M$，则

$$|R_2|\le\frac{M}{6}(|u|+|v|)^3.$$

这说明 P07 为什么要同时使用两个坐标的界及所有混合导数，而不能只控制 $u^3+v^3$。

对前面的数值例子，$h=(0.02,0.03)$ 使整条线段满足 $0\le x\le0.02$、$0\le y\le0.03$。四个三阶偏导数为

$$f_{xxx}=e^x\ln(1+y),\quad f_{xxy}=\frac{e^x}{1+y},\quad f_{xyy}=-\frac{e^x}{(1+y)^2},\quad f_{yyy}=\frac{2e^x}{(1+y)^3}.$$

由 $\ln(1+y)\le y\le0.03$ 及 $1+y\ge1$，可用共同界 $M=2e^{0.02}$。因此前述近似满足保证误差界

$$|e^{0.02}\ln(1.03)-0.03015|\le\frac{2e^{0.02}}6(0.05)^3=\frac{e^{0.02}}{24000}<0.000043.$$

此界较保守。它保证真值落在近似值附近的一个区间内，并不声称每个已写出的十进制数位都正确。

怎样核验所选练习的解答

对 P01，在原点求导得到 $\nabla f=(1,1)$，$H_f=-\begin{pmatrix}1&1\\1&1\end{pmatrix}$。代入 Hessian 公式，得到 $xy$ 的系数为 $-1$。开条带 $|x+y|<1/2$ 包含原点，并位于对数定义域内；充分小的位移线段留在其中。

对 P04，在 $a=(1,2)$ 处的数据是 $f(a)=2$、$\nabla f(a)=(4,1)$、$H_f(a)=\begin{pmatrix}4&2\\2&0\end{pmatrix}$。因此二次项为 $2u^2+2uv$，与精确乘积 $(1+u)^2(2+v)$ 一致。省去的 $u^2v$ 满足 $|u^2v|\le\|h\|^3$，所以也是 $o(\|h\|^2)$，不需使用无穷级数。

对 P07，二项式和包含两个混合项，各自有三的重数。代入上界得到 $\frac13(0.03)^3=9\times10^{-6}$。假设控制整条线段上的导数，而不只控制两个端点。