正定性提供了安全的代数主元
定义 2.4.1
(正定矩阵)
实对称矩阵 称为正定的,如果对每个非零向量 都有 。
这样的矩阵比一般的可逆矩阵具有更多结构。其 Cholesky 分解将 写成
其中 是对角线元素严格为正的下三角矩阵。这使我们可以通过两次三角方程组的求解,即 和 ,来求解 ,而无需构造 。
定义 2.4.2
(Schur 补)
设
是对称分块矩阵,其左上角分块为标量 。 在 中的 Schur 补是矩阵 。
概念视角分析
Schur 补是对一个变量取最小值的结果
对固定的向量 ,函数 是首项系数为正的一元二次函数。它在 处取最小值,最小值为 。所以 就是对第一个变量取最小值消去之后剩下的二次型。这第二种描述解释了为什么 会从 继承正定性,也说明了下面证明中的试探向量从何而来。
定理 2.4.3
(Cholesky 分解)
每个实对称正定矩阵都有唯一的分解 ,其中 为下三角矩阵且对角线元素为正。反之,任何这样的乘积都是对称正定矩阵。
证明
(对 Schur 补作归纳)
对维数用归纳法。对于第一个主元,由于 ,故 。记
直接相乘可知, 当且仅当
矩阵 称为 的 Schur 补;由于 和 对称, 也是对称的。对任意非零的 ,取 。则 ,并且
因此 是正定的,归纳假设给出 。 的情形为 。
关于唯一性,第一个对角元必须是 ,而第一列其余元素由 唯一确定。于是 Schur 补随之确定,再由归纳法可知其余的分块也被唯一确定。反之,若 的对角线元素为正,则 可逆,并且对 有 。
证明透视
为什么每一步消去后正定性仍然保持
正定性必须在每一步消去后保持,这就是整个归纳的内容。第一个主元 之所以成立,只因为 正定,并且需要它才能除以 。不显然的一步是试探向量 :它对给定的 选取使 最小的第一个坐标,所以 就是该二次型对这个坐标取最小值的结果。由于 时 , 的正定性便传递给 ,同一论证可用于更小的矩阵。仅有第一个主元为正并不能说明 的任何性质,下面的反例会显示这点。唯一性是另一回事:每一步只有一个正的平方根可取,所以每个元素都被确定。
元素递推公式
令 的对应元素相等,对 得到
该定理证明了在精确计算下,每一步的被开方数都为正。但它并不意味着任意对称矩阵的被开方数都为正,也不意味着有限精度算术不会扰动一个非常小的被开方数。
例题 2.4.4
(一个二阶方程组)
对于
有 。为求解 ,前代法给出 和 ;回代法给出 ,。验算 即可确认这一具体计算。
例题 2.4.5
(用递推公式分解三阶矩阵)
设 。递推公式给出 、、;然后 、;最后 。所以 ,乘出 即回到 。对 ,前代法得 ,回代法得 、、。验算:。
例题 2.4.6
(被开方数变成零的情形)
设 。递推公式给出 、、。矩阵 的确满足 ,但它的对角线元素不是正数, 是奇异的。事实上 只是半正定: 在 处为零。这时两次三角方程组求解无法进行;在更大的矩阵中,下一列还会除以 。
反例模式
对称性与正的首个主元并不保证正定
对称矩阵 是可逆的,但不是正定的。它不可能等于某个实矩阵 的 ,因为对每个 都有 。仅有第一个主元为正并不能使 Schur 补为正:此处它等于 。
常见错误
(对角线元素为正并不足够)
对于对称矩阵,对角线元素为正只是必要条件,因为 。矩阵 的对角线为 ,但 给出 。第一个主元之后的 Schur 补为 ,递推公式会对负数开平方。
半正定矩阵可能具有奇异的分解,其对角元素中含有零,但上述递推公式可能出现除以零的情形;正定情形的定理并不涵盖这种情况。在有限精度下,Cholesky 分解通常用于尺度良好的正定方程组,但完整的舍入误差或条件数分析需要额外的假设。当 病态时,分解成功本身并不保证 的相对误差很小。
练习与解答
快速检查
(求 的 Cholesky 因子。)
对各主元取平方根。
解答 · 答案
。
快速检查
( 是否正定?请在不计算其特征值的情况下说明理由。)
试一个各分量符号相反的向量。
解答 · 答案
不是:取 ,。
快速检查
(当 的对角线元素为正时,为什么两个三角方程组都有唯一解?)
三角矩阵的行列式是什么?
解答 · 答案
对角线元素非零的三角矩阵可逆;前代法与回代法逐个确定各分量。
快速检查
(若 且 可逆,为什么 只有零解?)
计算 。
解答 · 答案
由 得 ,所以 。