三变量雅可比矩阵、泰勒近似与极值
平面上的海森矩阵行列式判别法不能自动成为三维判别法。在三个变量下,向量输出的雅可比矩阵组合坐标变换,海森矩阵控制所有空间方向,约束极值则需要检查每个可行边界情形。本章通过明确的三维例子运用这些工具。
1 空间中的雅可比矩阵与链式法则
对定义在开集上的 F:U⊂R3→Rm,雅可比矩阵是 m×3 矩阵,其 (i,j) 元素为 ∂Fi/∂xj。对 C1 映射,它给出下式中的导数:
F(a+h)=F(a)+JF(a)h+o(∥h∥).
与可微映射 G 复合可得 JF∘G=JF(G)JG。证明将一个线性近似代入另一个,并利用中间增量是 O(∥h∥)。维数决定矩阵乘法的正确次序。
对于标量场 T(x,y,z)=x2+2y2+3z2 和轨迹 r(t)=(t,t2,1−t),
dtdT(r(t))=(2x,4y,6z)⋅(1,2t,−1)=8t3+8t−6.
直接代入得到 T(r(t))=2t4+4t2−6t+3,验证了该导数。沿运动轨迹的变化率不是某一个偏导数。
2 三维泰勒近似
若 f∈C2 于 a 附近,其海森矩阵的元素为 fxixj,且矩阵对称。限制到 ϕ(t)=f(a+th) 并积分两次,得到
f(a+h)=f(a)+∇f(a)⋅h+21hTHf(a)h+o(∥h∥2).
若线段上海森矩阵的算子范数以 M 为界,则一阶误差至多为 M∥h∥2/2。证明使用积分余项 ∫01(1−t)hTHf(a+th)hdt,因此同时控制所有方向。
对上述二次场,在 a=(1,1,1) 处函数值为 6、梯度为 (2,4,6)、海森矩阵为 diag(2,4,6)。增量恰为
2h+4k+6ℓ+h2+2k2+3ℓ2.
由于函数是二次的,没有更高阶余项。对位移 (0.01,−0.02,0.03),线性预测为 0.12,二次修正为 0.0036,实际变化恰为 0.1236。
3 临界点与二次方向
在可微函数的内点极值处,三个偏导数均为零。在 C2 函数的驻点 a(∇f(a)=0)处,若对称海森矩阵正定,其二次型在单位球面上有正的最小值;泰勒展开的小 o 余项最终小于该正二次项,从而证明严格局部最小值。负定给出严格局部最大值;存在正负两种方向则给出鞍点。半正定或半负定海森矩阵不能得出结论。
可通过特征值、配方或 Sylvester 判别法检查正定性:所有顺序主子式均为正。此判别法来自逐次配方,等价于正对角三角分解。在三维中仅有正行列式不够:diag(1,−1,−1) 的行列式为正,但矩阵不定。
对 f=(x−1)2+2(y+1)2+3(z−2)2,唯一全局最小值为零,位于 (1,−1,2)。正定海森矩阵提供独立的局部检验,而非负平方和显式证明全局结论。
4 完整的三变量约束例子
在 x,y,z≥0、x2+y2+z2=3 上最大化和最小化 V(x,y,z)=xyz。可行集紧且 V 连续,故极值存在。在其边界上至少一个坐标为零,V=0;因此最小值为零,在所有边界弧上取得。
在坐标均为正的内部点,正则球面约束的梯度非零。Lagrange 点满足
(yz,xz,xy)=λ(2x,2y,2z).
对该球面可直接证明乘子条件:每个垂直于 a 的向量都是归一化曲线 3(a+tv)/∥a+tv∥ 的切向量,该曲线在零处导数为 v。极值沿每个这种方向的目标函数导数为零,所以其梯度平行于约束法向量 a。
将三个方程分别乘以 x,y,z,得到 xyz=2λx2=2λy2=2λz2。由于所有坐标及 xyz 都为正,λ=0,故各坐标平方相等。由非负性与约束得 x=y=z=1,体积为 1。与边界值比较,证明这是全局最大值。仅靠乘子方程不能得到边界弧上的最小值。
完整的三维 Sylvester 判别证明
设 A=(aij) 为实对称 3×3 矩阵,Δj 为左上角 j×j 顺序主子式。先设 Δ1>0,令 B=(bij)i,j=2,3,其中 bij=aij−a1ia1j/a11。第一次配方给出
xTAx=Δ1(x1+a11a12x2+a11a13x3)2+b22x22+2b23x2x3+b33x32.
直接展开二阶行列式得 b22=Δ2/Δ1;在行列式中减去第一行的倍数,得 detA=Δ1detB。若还有 Δ2>0,再次配方:
xTAx=Δ1ℓ1(x)2+Δ1Δ2(x2+b22b23x3)2+Δ2Δ3x32,
其中 ℓ1 为第一式中的线性表达式。这些三角形线性坐标可逆,所以三个顺序主子式都正便蕴含正定。反之,正定先给出 a11=Δ1>0。限制 x3=0,选择 x1 令 ℓ1=0,则非零 x2 处的正性给出 Δ2/Δ1>0。最后取 x3=0,依次选 x2,x1 消去前两个平方项,正性给出 Δ3/Δ2>0。这在所述实对称三维情形下同时证明了必要性和充分性。
C2 Taylor 公式及其一致的小 o 界,恰为前面极值章节已经证明的一般有限维估计在 n=3 时的结论。一阶误差界也由同一个积分恒等式给出,两者均无需三阶导数。
5 分级练习
E1 雅可比矩阵。 对 F=(x+y,y+z,z+x),求其雅可比矩阵和 ∥F∥2 在 (1,0,0) 处的梯度。
E2 球面。 在 x2+y2+z2=1 上最大化和最小化 2x−y+2z。
E3 鞍点。 用明确的方向变化而不只用行列式,分类 f=xy+z2 在原点的情况。
E4 单纯形。 求 x,y,z≥0、x+y+z=6 上 xyz 的最大值与最小值,包括所有边界情形。
6 详解
S1. J=101110011。由于梯度为 2JTF,在该点 F=(1,0,1),梯度为 (4,2,2)。展开范数平方可验证结果。
S2. Cauchy–Schwarz 不等式给出绝对值至多为 ∥(2,−1,2)∥=3。最大值 3 在 (2,−1,2)/3 处取得,最小值 −3 在其相反向量处取得。这些向量位于单位球面上,故界可达到。
S3. 沿 (t,t,0),非零 t 时函数值为 t2>0;沿 (t,−t,0) 则为 −t2<0。两条路径均趋向原点,故尽管 z2 非负,原点仍为鞍点。
S4. 边界值为零。在正的内部,Lagrange 条件给出 yz=xz=xy,因此 x=y=z=2,值为 8。紧性保证极值存在,比较得该点处最大值为 8、边界上最小值为 0。负坐标候选点不可行,无须检查。
小结
三变量微积分需要与三维相符的矩阵形状和二次方向。泰勒展开控制同时发生的空间变化,而海森矩阵的定性——不是单独的行列式——对正则临界点进行分类。紧性、正则约束及明确的边界比较共同完成全局最优化论证。