Taylor 模型：例題與練習

用位移變量建立模型

二階模型保留一次變化和主要曲率，同時把近似式與誤差分開。設 $a=(a_1,a_2)\in\mathbb R^2$，寫 $h=(u,v)$，以近似 $f(a+h)$。多項式中的每個導數都在固定基點 $a$ 處計算；變量是位移 $u=x-a_1$、$v=y-a_2$。應計算總次數：$uv$ 是二次項，而 $u^2v$ 是三次項。

對充分小的 $h$，整條線段 $a+th$、$0\le t\le1$ 必須留在函數定義域內。在 $a$ 的開鄰域上為 $C^2$，可得到局部二階展開；要給出數值性的三次誤差界，還須知道實際線段上的三階導數資訊。這是不同結論，應分別檢查假設。

二階結論及其假設

定義

海森矩陣與二階泰勒多項式

若 $f$ 在 $a$ 附近屬 $C^2$，其海森矩陣為 $H_f(a)=(\partial_i\partial_j f(a))_{i,j}$。以 $h$ 表示位移，$a$ 處的二階泰勒多項式為

$$T_2(a+h)=f(a)+\nabla f(a)\cdot h+\tfrac12h^TH_f(a)h.$$

二元情況 $h=(u,v)$ 的二次項為 $\tfrac12(f_{xx}u^2+2f_{xy}uv+f_{yy}v^2)$，所有偏導數均在 $a$ 評估。

定理

二階泰勒展開

若 $f$ 在 $a$ 附近屬 $C^2$，則當 $h\to0$ 時，

$$f(a+h)=T_2(a+h)+o(\|h\|^2).$$

若 $f$ 在線段的某個鄰域屬 $C^3$，令 $\phi(t)=f(a+th)$，則對某個 $\theta\in(0,1)$，餘項等於 $\phi'''(\theta)/6$。特別地，若線段上 $|\phi'''(t)|\le K\|h\|^3$，餘項絕對值不超過 $K\|h\|^3/6$。

為甚麼 C2 足以控制局部餘項

設實標量函數 $f$ 在 $a$ 的開鄰域上屬 $C^2$。取以 $a$ 為中心且包含在該鄰域內的小球，並令 $h$ 足夠小，使相應線段留在球中。置 $\phi(t)=f(a+th)$。兩次使用微積分基本定理，得到

$$f(a+h)=f(a)+\nabla f(a)\cdot h+\int_0^1(1-t)h^TH_f(a+th)h\,dt.$$

直接核驗此恆等式時，一變量分部積分給出

$$\int_0^1(1-t)\phi''(t)\,dt=[(1-t)\phi'(t)]_0^1+\int_0^1\phi'(t)\,dt=-\phi'(0)+\phi(1)-\phi(0).$$

鏈式法則給出 $\phi'(0)=\nabla f(a)\cdot h$ 及 $\phi''(t)=h^TH_f(a+th)h$，所以無需交換多重積分即可證明該恆等式。減去常 Hessian 部分，並利用 $\int_0^1(1-t)dt=1/2$，得

$$R_2(h)=\int_0^1(1-t)h^T[H_f(a+th)-H_f(a)]h\,dt,$$ $$|R_2(h)|\le\frac12\|h\|^2\sup_{0\le t\le1}\|H_f(a+th)-H_f(a)\|_{\rm op}=o(\|h\|^2).$$

上確界趨零，是因為 Hessian 在 $a$ 處連續，而線段上每點與 $a$ 的距離至多為 $\|h\|$。此證明不需要三階導數，也不提供固定的三次誤差常數或無窮級數表示。

在二元情形，$f_{xy}(a)=f_{yx}(a)$ 的對稱性給出

$$\frac12h^TH_f(a)h=\frac12f_{xx}(a)u^2+f_{xy}(a)uv+\frac12f_{yy}(a)v^2.$$

乘以 $1/2$ 之前，有兩個相等的非對角貢獻。漏掉其中任何一個，都會錯誤地把混合項係數減半。

先核對導數，再使用模型

例題函數 $f(x,y)=e^x\ln(1+y)$ 的開定義域是 $y>-1$。先求導再代入，得到

$$f_x=e^x\ln(1+y),\quad f_y=\frac{e^x}{1+y},\quad f_{xx}=e^x\ln(1+y),\quad f_{xy}=\frac{e^x}{1+y},\quad f_{yy}=-\frac{e^x}{(1+y)^2}.$$

在原點代入，即得到下方例題使用的各個數值。特別地，混合項係數是一，而非二分之一。此函數在整個開定義域上光滑，因此分別完成定義域檢查後，便可使用 C2 的局部結論和 C3 的線段估計。

例題與所選練習

例 1：含混合曲率的二次模型。 對 $f(x,y)=e^x\ln(1+y)$ 在 $(0,0)$ 附近展開，要求 $y>-1$。原點處的函數值及各階導數為

$$f(0,0)=0,\quad f_x(0,0)=0,\quad f_y(0,0)=1,\quad f_{xx}(0,0)=0,\quad f_{xy}(0,0)=1,\quad f_{yy}(0,0)=-1.$$

因此二次模型為

$$T_2(x,y)=y+xy-\frac12y^2.$$

常數項、純 $x$ 項和純 $x^2$ 項的係數均為零，因為 $f(x,0)=0$。在 $(0.02,0.03)$ 處，近似值為 $0.03+0.0006-0.00045=0.03015$。要保證誤差界，必須約束連接線段上的三階導數，而不能只因兩個坐標看起來很小就斷言誤差小。

練習

P01. 求 $f(x,y)=\ln(1+x+y)$ 在 $(0,0)$ 處的二次 Taylor 多項式，並寫出一個有效的鄰域定義域。

P04. 將 $f(x,y)=x^2y$ 在 $(1,2)$ 處展開到二階，指出剩餘的精確三次項。

P07. 設二元函數 $f$ 在包含相關線段的開鄰域上為 $C^3$，且線段上各三階偏導數的絕對值均不超過二。對 $|h_1|\le0.01$、$|h_2|\le0.02$，求二階 Taylor 誤差的上界。

完整解答

P01. 令 $u=x+y$，展開式為 $u-u^2/2$，所以 $T_2=x+y-(x^2+2xy+y^2)/2$。滿足 $|x+y|<1/2$ 的鄰域位於對數的定義域 $1+x+y>0$ 內。

P04. 令 $x=1+u,y=2+v$。展開得 $2+4u+v+2u^2+2uv+u^2v$。二階 Taylor 多項式只省去 $u^2v$。

P07. 係數來自沿線段的三階鏈式導數，因此

$$|R_2|\le\frac{2}{3!}\left(|h_1|^3+3|h_1|^2|h_2|+3|h_1||h_2|^2+|h_2|^3\right)=\frac13(|h_1|+|h_2|)^3.$$

代入題給的界，誤差上界為 $(2/6)(0.01+0.02)^3=0.000009$。

保證誤差必須檢查整條線段

設實函數在包含 $[a,a+h]$ 的開鄰域上屬 C3，令 $h=(u,v)$，$\phi(t)=f(a+th)$。反覆使用鏈式法則得

$$\phi'''(t)=f_{xxx}u^3+3f_{xxy}u^2v+3f_{xyy}uv^2+f_{yyy}v^3,$$

各導數都在 $a+th$ 處計算。係數三來自三次求導中重複坐標出現位置的計數；混合偏導相等使用了 C3 條件。所需餘項公式可由三次 Rolle 定理證明。定義

$$R=\phi(1)-\phi(0)-\phi'(0)-\frac12\phi''(0),\qquad \psi(t)=\phi(t)-\phi(0)-\phi'(0)t-\frac12\phi''(0)t^2-Rt^3.$$

於是 $\psi(0)=\psi(1)=\psi'(0)=\psi''(0)=0$。在 $[0,1]$ 上用 Rolle 定理，得到 $c_1\in(0,1)$，使 $\psi'(c_1)=0$。對 $\psi'$ 在 $[0,c_1]$ 上使用 Rolle 定理，得到 $c_2\in(0,c_1)$，使 $\psi''(c_2)=0$。最後對 $\psi''$ 在 $[0,c_2]$ 上使用 Rolle 定理，得到 $\theta\in(0,c_2)$，使 $\psi'''(\theta)=0$。C3 鄰域假設保證所需的連續性和可微性。由 $\psi'''(\theta)=\phi'''(\theta)-6R$，得 $R_2=R=\phi'''(\theta)/6$。若線段上每個三階偏導數絕對值至多為 $M$，則

$$|R_2|\le\frac{M}{6}(|u|+|v|)^3.$$

這說明 P07 為甚麼要同時使用兩個坐標的界及所有混合導數，而不能只控制 $u^3+v^3$。

對前面的數值例子，$h=(0.02,0.03)$ 使整條線段滿足 $0\le x\le0.02$、$0\le y\le0.03$。四個三階偏導數為

$$f_{xxx}=e^x\ln(1+y),\quad f_{xxy}=\frac{e^x}{1+y},\quad f_{xyy}=-\frac{e^x}{(1+y)^2},\quad f_{yyy}=\frac{2e^x}{(1+y)^3}.$$

由 $\ln(1+y)\le y\le0.03$ 及 $1+y\ge1$，可用共同界 $M=2e^{0.02}$。因此前述近似滿足保證誤差界

$$|e^{0.02}\ln(1.03)-0.03015|\le\frac{2e^{0.02}}6(0.05)^3=\frac{e^{0.02}}{24000}<0.000043.$$

此界較保守。它保證真值落在近似值附近的一個區間內，並不聲稱每個已寫出的十進制數位都正確。

怎樣核驗所選練習的解答

對 P01，在原點求導得到 $\nabla f=(1,1)$，$H_f=-\begin{pmatrix}1&1\\1&1\end{pmatrix}$。代入 Hessian 公式，得到 $xy$ 的係數為 $-1$。開條帶 $|x+y|<1/2$ 包含原點，並位於對數定義域內；充分小的位移線段留在其中。

對 P04，在 $a=(1,2)$ 處的數據是 $f(a)=2$、$\nabla f(a)=(4,1)$、$H_f(a)=\begin{pmatrix}4&2\\2&0\end{pmatrix}$。因此二次項為 $2u^2+2uv$，與精確乘積 $(1+u)^2(2+v)$ 一致。省去的 $u^2v$ 滿足 $|u^2v|\le\|h\|^3$，所以也是 $o(\|h\|^2)$，不需使用無窮級數。

對 P07，二項式和包含兩個混合項，各自有三的重數。代入上界得到 $\frac13(0.03)^3=9\times10^{-6}$。假設控制整條線段上的導數，而不只控制兩個端點。