对称矩阵的对角项全为正,仍未必正定。正定性关乎每个非零方向,包括坐标的组合。Cholesky 分解把这个整体条件化为正主元,顺序主子式判别法则用行列式测试。要理解判别法,须证明主元为何存在,以及每个行列式如何记录主元的乘积。
分块恒等式
定义 5.2.1
(正定、Cholesky 因子与顺序主子式)
实对称 矩阵 称为正定,若对每个非零 都有 。 的 Cholesky 因子是对角项为正的下三角矩阵 ,满足 。第 个顺序主子式 是 左上角 区块的行列式,并取 。
设 为实对称 矩阵,,并写成
其中 。矩阵 称为 的 Schur 补。对 ,配方得到
引理 5.2.2
(以第一主元化简)
设 、 与 如上。则 正定,当且仅当 且 正定。
证明
(配方化简)
若 正定,先取 得 。对任意非零 ,取 ,所得 非零且平方项消失,所以 。因此 是对称正定矩阵。反过来,若 且 正定,上式对每个非零 都是正数: 时第二项为正; 时 ,第一项为正。
证明透视
为什么要令平方项消失
不显而易见的一步是取 :它令恒等式的第一项为零,使 化为 ,于是关于 的陈述变成关于较小矩阵 的陈述。假设 允许作除法, 则使反方向中第一项的系数为正。正性不能去掉:对 ,, 正定,但 。反方向中 的情形正是需要 的地方,因为此时第二项不提供正性。
反方向很重要:正定性不只是由较大矩阵传给较小矩阵;较小问题连同第一个主元完整刻画原问题。证明 非零之前,不能除以 。
Cholesky 分解的存在与唯一性
定理 5.2.3
(Cholesky 分解)
每个实对称正定矩阵 都有唯一对角项为正的下三角因子 ,满足 。反过来,若 ,其中 下三角且对角项为正,则 正定。
证明
(以 Schur 补对阶数作归纳)
用归纳法证明存在性与唯一性。当 ,因子为 ,正平方根唯一。归纳步中,分块论证给出 且 正定。依归纳假设,,其中 是唯一对角项为正的下三角矩阵。令
分块相乘,左上项为 ,左下块为 ,右下块为 ,所以 。至于唯一性,任何对角项为正的下三角因子,其首项必为 ,第一列下部随即被定为 。其余区块必须分解 ,故归纳假设迫使它等于 。对角项为正消除了平方根的符号歧义。
反之,若 ,其中 下三角且对角项为正,则 可逆。对 ,有 ,因此 。这证明了等价性,而非只说明一套在例子中奏效的算法。
顺序主子式为何有效
定理 5.2.4
(顺序主子式判别法)
实对称矩阵 正定,当且仅当 对 成立。此时 Cholesky 因子满足 。
证明
(主子式是主元乘积的平方)
若 ,其左上角 区块是 ,其中 是 的左上区块。因此
反过来,假设所有 。第一主元 为正。对每个左上角 区块,用行列式为一的分块消去矩阵处理,得到的分块对角矩阵以 和 的左上角 区块为两块。因此 的相应顺序主子式为 。由归纳假设, 正定;配方恒等式再给出 正定。 的情形显然。所以实对称矩阵正定,当且仅当所有顺序主子式均为正。
实际上,。顺序主子式为零或负数时,正定 Cholesky 程序应停止,不能随意取平方根。对称性是此判别法不可或缺的条件。
“顺序”指定了次序:必须同时选取前 行及前 列。一般主子式选取相同的行与列指标,但不一定是顺序主子式。正定矩阵的每个主子矩阵都正定,因为可将所选坐标上的非零向量其余分量补零。上述判别法更省事,只需检查逐层包含的顺序区块。重排坐标会改变这些区块,却不会改变正定性。因此不同次序可能产生不同主元,但结论相同。
非负顺序主子式不能保证什么
反例模式
顺序主子式取弱不等式不能推出半正定
将判别法中所有严格不等式改为非严格不等式,并不能得到半正定判别法。取 。它的顺序主子式为 及 ,都不是负数。但 ,所以 连半正定也不是。第一主元为零会掩盖其后方向的情况。半正定矩阵可以有奇异的三角分解,但上述正对角构造及唯一性证明不能不经修改便应用。
常见错误
常见错误
(对角项为正并不足够)
对称矩阵 的对角项为正,但取 得 。与此一致,。沿坐标轴为正,并不说明组合方向的情形。
常见错误
(行列式为正不足以证明正定)
对 ,行列式为 ,但 。判别法要求每个顺序主子式都为正;这里 已经不合格。
例题
例题 5.2.5
(构造并验证分解)
设 。求 Cholesky 因子并证明正定。
第一主元为 ,所以 的第一列是 。Schur 补为 。其 Cholesky 第一列为 ,最后一个对角项为 。因此
直接相乘得 。对角项均为正,故 可逆,对 有 。顺序主子式 提供另一个行列式检查。
例题 5.2.6
(参数与明确的失败方向)
设 ,求其正定的确切条件。若不正定,给出一个二次型值非正的非零向量。
第一顺序主子式为 ,行列式为 ,所以判别法给出 。等价地,Schur 补为 。若 ,取 ,直接计算得 。当 ,矩阵半正定但奇异;小于该值时,同一向量令二次型为负。这区分了不满足正定性与更强的不定结论。
例题 5.2.7
(在第二个主元失败)
检验 。
第一主元为 ,,所以 。它的第一个对角项 为负,所以 Cholesky 程序在第二步停止。顺序主子式为 、、,与此一致。一个明确的见证向量是 ,有 。即使 ,该矩阵也不是正定的。
即时检查
快速检查
(顺序主子式判别法能否证明 正定?给出一个说明情况的非零方向。)
计算 。
解答 · 答案
不能。,但 ,所以 不是正定。取 ,,即二次型在一个非零向量上等于零。
快速检查
(某正定矩阵的顺序主子式为 。它的 Cholesky 因子的对角项是什么?)
利用 ,其中 。
解答 · 答案
,,。取正平方根,对角项为 。
快速检查
(对 且 , 何时正定?)
的 Schur 补是一个数。
解答 · 答案
Schur 补为 。由化简引理, 正定当且仅当 ,即 (等价于 )。