3.2 可微性與線性近似

動機

一個近似公式不僅要給出預測值，還要說明誤差相對於輸入變化有多小。一元導數給出切線，同時保證誤差比輸入增量小一個階。在多元情形，輸入增量是向量，不能把兩個向量相除來定義導數。正確做法是把函數變化分成線性預測與餘項，再比較餘項的大小和輸入位移的長度。

偏導數能夠提供預測式的係數，因為它們測量各座標方向的變化。可微性進一步要求：這些係數必須共同適用於所有充分小的位移，包括方向隨着接近過程不斷改變的位移。正是這個統一性，使可微性強於偏導數存在。

即使原函數可以精確計算，線性近似仍然有價值。它分清不同輸入對輸出的一階影響，把多個輸入的小變化轉化為可相加的貢獻；它也為鏈式法則作準備，因為連續發生的小變化可以先由線性映射近似，再把這些線性映射覆合起來。

開始之前

區分基點 $a$ 與位移 $h$。鄰近點是 $a+h$，輸入變化的大小是 $\|h\|$。輸入和輸出空間都使用歐幾里得範數。線性映射保持加法和數乘，並把零向量映到零向量；在線性映射上加一個常數，得到的是仿射映射。

定義

定義

帶有線性餘項的可微性

設 $U\subseteq\mathbb R^n$ 是開集，$F:U\to\mathbb R^m$。若存在一個線性映射 $A:\mathbb R^n\to\mathbb R^m$，使

$$F(a+h)=F(a)+Ah+R(h), \qquad \lim_{h\to0,\ h\ne0}\frac{\|R(h)\|}{\|h\|}=0,$$

就稱 $F$ 在 $a\in U$ 處可微。這個映射稱為導數，記為 $DF(a)$。簡寫 $R(h)=o(\|h\|)$ 表示上述餘項極限成立。

這裏比較的是餘項與輸入位移的相對大小，不是除以函數值，也不是除以預測的輸出變化。例如，二次餘項滿足要求，因為 $\|h\|^2/\|h\|=\|h\|\to0$。若只知道餘項不超過某個常數乘 $\|h\|$，還不能得出結論；它們的比值可能一直停留在一個非零常數附近。

這是一個局部定義。開鄰域保證每個充分小的位移都可以考慮。在一個點處可微，不等於鄰近每一點都可微，也不等於導數函數在該點附近連續。這些都是另外的性質，不能從一個點處的定義中直接讀出。

定義

線性近似與全微分

$F$ 在 $a$ 處的線性近似是仿射函數

$$L_a(x)=F(a)+DF(a)(x-a).$$

對於實值可微函數，

$$DF(a)h=\sum_{i=1}^n\partial_if(a)h_i=\nabla f(a)\cdot h.$$

一階預測變化稱為全微分：

$$df_a=\sum_{i=1}^n\partial_if(a)\,dx_i.$$

導數作用於位移，是線性映射；線性近似作用於點，通常是仿射函數。對於兩個輸入和一個實值輸出，線性近似的圖形就是切平面。檢查公式時可利用這個區別：導數不能含有非零常數項，而線性近似在基點處應當與原函數有相同的值。

對向量值函數，把輸入和輸出寫成列向量。$DF(a)$ 的矩陣每一行對應一個輸出分量，每一列對應一個輸入變量；第 $j$ 行第 $i$ 列是 $\partial_iF_j(a)$。這就是雅可比矩陣。每個輸出分量都有自己的線性近似，矩陣把這些近似同時組織起來。

定理與命題

定理

導數的必要結果與唯一性

若 $F$ 在 $a$ 處可微，則它在該點連續；各座標偏導數存在，並等於 $DF(a)$ 的相應列。滿足可微性定義的線性映射是唯一的。

這些結論是必要條件。反過來，僅有連續性與偏導數存在，即使二者同時成立，也未必保證候選線性映射留下足夠小的餘項。要確定候選映射是否真的有效，仍需考察誤差與位移長度的比值。

定理

連續一階偏導數是充分條件

設 $f$ 定義在開集 $U$ 上。若各一階偏導數在 $a$ 的某個鄰域內存在，並在 $a$ 處連續，則 $f$ 在 $a$ 處可微。特別地，開集上的 $C^1$ 函數處處可微。向量值函數可以逐分量應用同一結論。

條件中的連續性針對偏導數函數，而不只是針對原函數。實際計算時，先找一個包含目標點的開鄰域，確認偏導數公式在其中有效。如果這些公式由連續初等函數組成，且分母與對數條件均滿足，就能利用本定理判斷可微，而不必對每一點重新展開餘項。

證明思路

證明

連續性、座標導數與唯一性

有限維歐幾里得空間上的線性映射滿足 $\|Ah\|\le C\|h\|$，其中 $C$ 為某個常數。於是

$$\|F(a+h)-F(a)\|\le C\|h\|+\|R(h)\|\longrightarrow0.$$

因此 $F$ 在 $a$ 處連續。再令 $h=te_i$，把展開式除以 $t$，餘項除以 $t$ 後趨於零，所得座標偏導數就是 $Ae_i$。

若 $A,B$ 都滿足定義，相減得 $(A-B)h=o(\|h\|)$。依次取 $h=te_i$，可得 $(A-B)e_i=0$。線性映射由它在基向量上的取值唯一確定，所以 $A=B$。

證明

連續偏導數為何控制所有方向

對二元函數，把總變化拆成兩次座標變化：

$$f(a+h,b+k)-f(a,b) =[f(a+h,b+k)-f(a,b+k)] +[f(a,b+k)-f(a,b)].$$

分別使用一元平均值定理，得到某些中間座標 $\xi,\eta$，使總變化等於

$$f_x(\xi,b+k)h+f_y(a,\eta)k.$$

減去候選線性變化 $f_x(a,b)h+f_y(a,b)k$，再除以 $\sqrt{h^2+k^2}$。由於 $|h|,|k|$ 都不超過這個範數，餘項比值至多為

$$|f_x(\xi,b+k)-f_x(a,b)|+ |f_y(a,\eta)-f_y(a,b)|.$$

中間點隨 $(h,k)\to(0,0)$ 趨於 $(a,b)$，因此兩個差都由連續性趨於零。某個座標增量為零時，直接省去對應變化即可。更高維情形沿各座標方向依次作同樣的拆分。

證明顯示了鄰域條件的用途。平均值定理中的中間點隨着位移而移動，如果只知道基點處的偏導數，就無法控制中間點處的導數。連續性讓所有鄰近點的偏導數同時接近基點處的值，因而補足了僅考察座標直線時缺少的統一誤差估計。

例題詳解

例題

精確餘項與數值近似

設 $f(x,y)=x^2+xy+2y^2$，基點為 $(1,-1)$。此時 $f(a)=2$，$\nabla f(a)=(1,-3)$。令 $x=1+h$、$y=-1+k$，直接展開：

$$f(1+h,-1+k)=2+h-3k+h^2+hk+2k^2.$$

利用 $|hk|\le(h^2+k^2)/2$，

$$|h^2+hk+2k^2|\le\frac52(h^2+k^2).$$

除以位移範數後趨於零，所以可微。切平面為

$$z=2+(x-1)-3(y+1)=x-3y-2.$$

在 $(1.02,-0.97)$，線性預測為 $1.93$。精確餘項為 $0.0028$，故函數值為 $1.9328$；統一估計也給出誤差不超過 $0.00325$。

例題

連續且有偏導數，仍不可微

定義

$$g(x,y)= \begin{cases} \dfrac{xy}{\sqrt{x^2+y^2}},&(x,y)\ne(0,0),\\ 0,&(x,y)=(0,0). \end{cases}$$

由 $|xy|\le(x^2+y^2)/2$，可得 $|g(x,y)|\le\sqrt{x^2+y^2}/2$，所以原點處連續。兩條座標限制恆為零，兩個一階偏導數也都是零。

若導數存在，座標偏導數會迫使它為零映射，此時餘項就是函數本身。然而沿 $(x,y)=(t,t)$，

$$\frac{|g(t,t)|}{\sqrt{t^2+t^2}}=\frac12$$

對每個非零 $t$ 都成立。餘項沒有比位移長度小一個階，故原點處不可微。這個例子同時保留連續性與偏導數存在，因而準確指出缺少的是統一的一階近似。

例題

雅可比矩陣同時預測兩個輸出

設 $F(x,y)=(x^2+y,xy)$，基點為 $a=(1,-1)$。有

$$DF(a)=\begin{pmatrix}2&1\\-1&1\end{pmatrix}, \qquad F(a)=\begin{pmatrix}0\\-1\end{pmatrix}.$$

位移 $(h,k)$ 對應的預測為

$$F(a)+DF(a)\begin{pmatrix}h\\k\end{pmatrix} =\begin{pmatrix}2h+k\\-1-h+k\end{pmatrix}.$$

直接展開可得餘項為 $(h^2,hk)$，其範數至多

$$h^2+|hk|\le\frac32(h^2+k^2).$$

這證明向量值函數可微。在 $(1.01,-0.98)$，預測輸出是 $(0.04,-0.99)$；精確輸出是 $(0.0401,-0.9898)$，兩個誤差分量恰為 $0.0001$ 與 $0.0002$。

怎樣有效使用定義

直接證明可微分為三個步驟：先從偏導數確定唯一可能的導數，再從實際變化中減去它給出的預測，最後用位移範數估計餘項。這三個步驟解決不同問題。找到候選導數只是第一步，不能代替證明候選導數確實有效。

對於二次多項式，展開往往直接給出精確的二次餘項；對光滑初等表達式，連續偏導數定理通常更短；對分段函數的特殊點，直接餘項檢驗往往最清楚。符號 $o(\|h\|)$ 表示需要證明的性質，把這個符號寫在尚未估計的誤差後面，本身不是證明。

證明不可微時，在候選導數已經確定後，只需找到一族位移使誤差比值不趨於零。證明可微時則不能只試有限幾條路徑。以 $\|h\|$ 為變量的統一上界能夠同時處理所有位移，也能處理方向隨長度變化的接近方式。

一階預測究竟預測什麼

全微分近似的是輸出變化量，而不是新輸出值。先把輸入增量代入 $df_a$，若題目要求新的函數值，再加上 $f(a)$。所有係數都在固定基點處計算。即使原函數公式相同，更換基點也會改變這些係數，因而不能隨意沿用原來的切平面。

量化誤差比“近似正確”更有信息。第一個例子給出了範數上界，因此可以對一個小球內的所有位移作同一保證。可微性定義本身只說明：要讓誤差比值足夠小，總能找到足夠小的鄰域；若要確定一個具體的數值半徑，還需要額外估計。

充分條件不等於必要條件。有些函數在一個點處可微，但偏導數在該點不連續。此時仍應回到定義判斷。$C^1$ 是方便而較強的局部假設，可微性則準確描述單個點處的一階近似行為。這兩類表述各有用途，不能互相替換。

對向量輸出還應區分各分量誤差與總誤差範數。若每個分量的誤差除以同一輸入範數都趨於零，由有限個分量組成的向量誤差也滿足要求。雅可比矩陣並沒有增加額外假設，它只是把這些分量上的線性映射寫成統一形式。

線性映射的範數上界來自哪裏

連續性證明使用了控制線性映射大小的常數。把 $A$ 的矩陣各行記為 $r_1,\ldots,r_m$，對每個輸出分量使用柯西–施瓦茨不等式，有

$$\|Ah\|^2=\sum_{j=1}^m|r_j\cdot h|^2 \le\left(\sum_{j=1}^m\|r_j\|^2\right)\|h\|^2.$$

開平方後得到固定的範數上界，而且這個常數不依賴於位移方向。這種方向無關性正是多元極限需要的統一控制。

估計也解釋了為何加上高階餘項不破壞連續性。線性部分至多與位移長度成正比，餘項則最終小於任意指定倍數的位移長度，二者都趨於零。這個論證不要求導數矩陣可逆、是方陣或者非零。

對向量輸出，分量論證也能夠組合起來。輸出座標只有有限個，所以可以取各分量允許鄰域半徑中的最小值，讓有限個誤差估計同時成立。於是總輸出誤差的歐幾里得範數相對於同一個輸入範數也足夠小。

常見錯誤

常見錯誤

絕對誤差趨於零，不代表它是一階小量

連續性要求 $f(a+h)-f(a)$ 趨於零。可微性要求減去正確的線性變化以後，剩餘誤差除以 $\|h\|$ 趨於零。第二個例子的絕對誤差確實趨於零，但沿對角線始終佔位移長度的固定比例。

也不要把定義中的分母換成某個帶符號的座標。分母是整個輸入位移的正長度。如果一個估計忽略了其他座標，那麼在該座標比其他座標小得多的位移上，估計可能無法控制真正的誤差比值。

總結

可微性是帶有高階餘項的線性近似。導數唯一，給出各偏導數，並推出連續性。鄰域中的連續一階偏導數提供實用的充分判據。線性近似預測新值，全微分預測變化；決定這些預測是否形成統一一階描述的，是餘項，而不是座標信息本身。

練習

思考檢查

求 $f(x,y)=x^2+y^3$ 在 $(1,1)$ 處的線性近似，並在 $\sqrt{h^2+k^2}\le1$ 時給出二次餘項上界。

在 $(1+h,1+k)$ 處展開。

解答 · 解答一：顯式保留餘項

線性近似為 $2+2h+3k$，餘項為 $h^2+3k^2+k^3$。因為 $|k|\le1$，

$$|R(h,k)|\le h^2+4k^2\le4(h^2+k^2).$$

除以位移範數後趨於零。

思考檢查

$f(x,y)=|x|+y^2$ 在原點是否可微？

先檢查必要的座標偏導數。

解答 · 解答二：必要導數不存在

第一個座標方向的差商是 $|t|/t$，左右極限不同，所以 $f_x(0,0)$ 不存在。可微會推出該偏導數存在，因此原點處不可微。另一個偏導數存在且等於零。

思考檢查

當 $x\ne0$ 時令 $g(x,y)=x^2\sin(1/x)$，並令 $g(0,y)=0$。證明原點處可微，同時說明它在該點附近並非 $C^1$。

先用零映射作候選導數，再檢查偏導數的連續性。

解答 · 解答三：充分條件不是必要條件

因為 $|g(x,y)|\le x^2\le\|(x,y)\|^2$，零映射的誤差比值趨於零，所以 $Dg(0,0)=0$。但當 $x\ne0$ 時，

$$g_x(x,y)=2x\sin(1/x)-\cos(1/x).$$

該表達式在 $x\to0$ 時不趨於 $g_x(0,0)=0$，故一階偏導數在原點不連續。