三變量雅可比矩陣、泰勒近似與極值

平面上的海森矩陣行列式判別法不能自動成為三維判別法。在三個變量下，向量輸出的雅可比矩陣組合坐標變換，海森矩陣控制所有空間方向，約束極值則需要檢查每個可行邊界情形。本章通過明確的三維例子運用這些工具。

1 空間中的雅可比矩陣與鏈式法則

對定義在開集上的 $F:U\subset\mathbb R^3\to\mathbb R^m$，雅可比矩陣是 $m\times3$ 矩陣，其 $(i,j)$ 元素為 $\partial F_i/\partial x_j$。對 $C^1$ 映射，它給出下式中的導數：

$$F(a+h)=F(a)+J_F(a)h+o(\|h\|).$$

與可微映射 $G$ 複合可得 $J_{F\circ G}=J_F(G)J_G$。證明將一個線性近似代入另一個，並利用中間增量是 $O(\|h\|)$。維數決定矩陣乘法的正確次序。

對於標量場 $T(x,y,z)=x^2+2y^2+3z^2$ 和軌跡 $r(t)=(t,t^2,1-t)$，

$$\frac d{dt}T(r(t))=(2x,4y,6z)\cdot(1,2t,-1) =8t^3+8t-6.$$

直接代入得到 $T(r(t))=2t^4+4t^2-6t+3$，驗證了該導數。沿運動軌跡的變化率不是某一個偏導數。

2 三維泰勒近似

若 $f\in C^2$ 於 $a$ 附近，其海森矩陣的元素為 $f_{x_ix_j}$，且矩陣對稱。限制到 $\phi(t)=f(a+th)$ 並積分兩次，得到

$$f(a+h)=f(a)+\nabla f(a)\cdot h+\tfrac12h^TH_f(a)h+o(\|h\|^2).$$

若線段上海森矩陣的算子範數以 $M$ 為界，則一階誤差至多為 $M\|h\|^2/2$。證明使用積分餘項 $\int_0^1(1-t)h^TH_f(a+th)hdt$，因此同時控制所有方向。

對上述二次場，在 $a=(1,1,1)$ 處函數值為 6、梯度為 $(2,4,6)$、海森矩陣為 $\operatorname{diag}(2,4,6)$。增量恰為

$$2h+4k+6\ell+h^2+2k^2+3\ell^2.$$

由於函數是二次的，沒有更高階餘項。對位移 $(0.01,-0.02,0.03)$，線性預測為 0.12，二次修正為 0.0036，實際變化恰為 0.1236。

3 臨界點與二次方向

在可微函數的內點極值處，三個偏導數均為零。在 $C^2$ 函數的駐點 $a$（$\nabla f(a)=0$）處，若對稱海森矩陣正定，其二次型在單位球面上有正的最小值；泰勒展開的小 o 餘項最終小於該正二次項，從而證明嚴格局部最小值。負定給出嚴格局部最大值；存在正負兩種方向則給出鞍點。半正定或半負定海森矩陣不能得出結論。

可通過特徵值、配方或 Sylvester 判別法檢查正定性：所有順序主子式均為正。此判別法來自逐次配方，等價於正對角三角分解。在三維中僅有正行列式不夠：$\operatorname{diag}(1,-1,-1)$ 的行列式為正，但矩陣不定。

對 $f=(x-1)^2+2(y+1)^2+3(z-2)^2$，唯一全局最小值為零，位於 $(1,-1,2)$。正定海森矩陣提供獨立的局部檢驗，而非負平方和顯式證明全局結論。

4 完整的三變量約束例子

在 $x,y,z\ge0$、$x^2+y^2+z^2=3$ 上最大化和最小化 $V(x,y,z)=xyz$。可行集緊且 $V$ 連續，故極值存在。在其邊界上至少一個坐標為零，$V=0$；因此最小值為零，在所有邊界弧上取得。

在坐標均為正的內部點，正則球面約束的梯度非零。Lagrange 點滿足

$$(yz,xz,xy)=\lambda(2x,2y,2z).$$

對該球面可直接證明乘子條件：每個垂直於 $a$ 的向量都是歸一化曲線 $\sqrt3(a+tv)/\|a+tv\|$ 的切向量，該曲線在零處導數為 $v$。極值沿每個這種方向的目標函數導數為零，所以其梯度平行於約束法向量 $a$。

將三個方程分別乘以 $x,y,z$，得到 $xyz=2\lambda x^2=2\lambda y^2=2\lambda z^2$。由於所有坐標及 $xyz$ 都為正，$\lambda\ne0$，故各坐標平方相等。由非負性與約束得 $x=y=z=1$，體積為 1。與邊界值比較，證明這是全局最大值。僅靠乘子方程不能得到邊界弧上的最小值。

完整的三維 Sylvester 判別證明

設 $A=(a_{ij})$ 為實對稱 $3\times3$ 矩陣，$\Delta_j$ 為左上角 $j\times j$ 順序主子式。先設 $\Delta_1>0$，令 $B=(b_{ij})_{i,j=2,3}$，其中 $b_{ij}=a_{ij}-a_{1i}a_{1j}/a_{11}$。第一次配方給出

$$x^TAx=\Delta_1\left(x_1+\frac{a_{12}}{a_{11}}x_2+\frac{a_{13}}{a_{11}}x_3\right)^2+b_{22}x_2^2+2b_{23}x_2x_3+b_{33}x_3^2.$$

直接展開二階行列式得 $b_{22}=\Delta_2/\Delta_1$；在行列式中減去第一行的倍數，得 $\det A=\Delta_1\det B$。若還有 $\Delta_2>0$，再次配方：

$$x^TAx=\Delta_1\ell_1(x)^2+\frac{\Delta_2}{\Delta_1}\left(x_2+\frac{b_{23}}{b_{22}}x_3\right)^2+\frac{\Delta_3}{\Delta_2}x_3^2,$$

其中 $\ell_1$ 為第一式中的線性表達式。這些三角形線性坐標可逆，所以三個順序主子式都正便蘊含正定。反之，正定先給出 $a_{11}=\Delta_1>0$。限制 $x_3=0$，選擇 $x_1$ 令 $\ell_1=0$，則非零 $x_2$ 處的正性給出 $\Delta_2/\Delta_1>0$。最後取 $x_3\ne0$，依次選 $x_2,x_1$ 消去前兩個平方項，正性給出 $\Delta_3/\Delta_2>0$。這在所述實對稱三維情形下同時證明了必要性和充分性。

$C^2$ Taylor 公式及其一致的小 o 界，恰為前面極值章節已經證明的一般有限維估計在 $n=3$ 時的結論。一階誤差界也由同一個積分恆等式給出，兩者均無需三階導數。

5 分級練習

E1 雅可比矩陣。 對 $F=(x+y,y+z,z+x)$，求其雅可比矩陣和 $\|F\|^2$ 在 $(1,0,0)$ 處的梯度。

E2 球面。 在 $x^2+y^2+z^2=1$ 上最大化和最小化 $2x-y+2z$。

E3 鞍點。 用明確的方向變化而不只用行列式，分類 $f=xy+z^2$ 在原點的情況。

E4 單純形。 求 $x,y,z\ge0$、$x+y+z=6$ 上 $xyz$ 的最大值與最小值，包括所有邊界情形。

6 詳解

S1. $J=\begin{pmatrix}1&1&0\\0&1&1\\1&0&1\end{pmatrix}$。由於梯度為 $2J^TF$，在該點 $F=(1,0,1)$，梯度為 $(4,2,2)$。展開範數平方可驗證結果。

S2. Cauchy–Schwarz 不等式給出絕對值至多為 $\|(2,-1,2)\|=3$。最大值 3 在 $(2,-1,2)/3$ 處取得，最小值 $-3$ 在其相反向量處取得。這些向量位於單位球面上，故界可達到。

S3. 沿 $(t,t,0)$，非零 $t$ 時函數值為 $t^2>0$；沿 $(t,-t,0)$ 則為 $-t^2<0$。兩條路徑均趨向原點，故儘管 $z^2$ 非負，原點仍為鞍點。

S4. 邊界值為零。在正的內部，Lagrange 條件給出 $yz=xz=xy$，因此 $x=y=z=2$，值為 8。緊性保證極值存在，比較得該點處最大值為 8、邊界上最小值為 0。負坐標候選點不可行，無須檢查。

小結

三變量微積分需要與三維相符的矩陣形狀和二次方向。泰勒展開控制同時發生的空間變化，而海森矩陣的定性——不是單獨的行列式——對正則臨界點進行分類。緊性、正則約束及明確的邊界比較共同完成全局最優化論證。