對稱矩陣的對角項全為正,仍未必正定。正定性關乎每個非零方向,包括座標的組合。Cholesky 分解把這個整體條件化為正主元,順序主子式判別法則用行列式測試。要理解判別法,須證明主元為何存在,以及每個行列式如何記錄主元的乘積。
分塊恆等式
定義 5.2.1
(正定、Cholesky 因子與順序主子式)
實對稱 矩陣 稱為正定,若對每個非零 都有 。 的 Cholesky 因子是對角項為正的下三角矩陣 ,滿足 。第 個順序主子式 是 左上角 區塊的行列式,並取 。
設 為實對稱 矩陣,,並寫成
其中 。矩陣 稱為 的 Schur 補。對 ,配方得到
引理 5.2.2
(以第一主元化簡)
設 、 與 如上。則 正定,當且僅當 且 正定。
證明
(配方化簡)
若 正定,先取 得 。對任意非零 ,取 ,所得 非零且平方項消失,所以 。因此 是對稱正定矩陣。反過來,若 且 正定,上式對每個非零 都是正數: 時第二項為正; 時 ,第一項為正。
證明透視
為甚麼要令平方項消失
不顯而易見的一步是取 :它令恆等式的第一項為零,使 化為 ,於是關於 的陳述變成關於較小矩陣 的陳述。假設 容許作除法, 則使反方向中第一項的係數為正。正性不能去掉:對 ,, 正定,但 。反方向中 的情況正是需要 的地方,因為此時第二項不提供正性。
反方向很重要:正定性不只是由較大矩陣傳給較小矩陣;較小問題連同第一個主元完整刻畫原問題。證明 非零之前,不能除以 。
Cholesky 分解的存在與唯一性
定理 5.2.3
(Cholesky 分解)
每個實對稱正定矩陣 都有唯一對角項為正的下三角因子 ,滿足 。反過來,若 ,其中 下三角且對角項為正,則 正定。
證明
(以 Schur 補對階數作歸納)
用歸納法證明存在性與唯一性。當 ,因子為 ,正平方根唯一。歸納步中,分塊論證給出 且 正定。依歸納假設,,其中 是唯一對角項為正的下三角矩陣。令
分塊相乘,左上項為 ,左下塊為 ,右下塊為 ,所以 。至於唯一性,任何對角項為正的下三角因子,其首項必為 ,第一列下部隨即被定為 。其餘區塊必須分解 ,故歸納假設強迫它等於 。對角項為正消除了平方根的符號歧義。
反之,若 ,其中 下三角且對角項為正,則 可逆。對 ,有 ,因此 。這證明了等價性,而非只說明一套在例子中奏效的算法。
順序主子式為何有效
定理 5.2.4
(順序主子式判別法)
實對稱矩陣 正定,當且僅當 對 成立。此時 Cholesky 因子滿足 。
證明
(主子式是主元乘積的平方)
若 ,其左上角 區塊是 ,其中 是 的左上區塊。因此
反過來,假設所有 。第一主元 為正。對每個左上角 區塊,用行列式為一的分塊消去矩陣處理,得到的分塊對角矩陣以 和 的左上角 區塊為兩塊。因此 的相應順序主子式為 。由歸納假設, 正定;配方恆等式再給出 正定。 的情況顯然。所以實對稱矩陣正定,當且僅當所有順序主子式均為正。
實際上,。順序主子式為零或負數時,正定 Cholesky 程序應停止,不能隨意取平方根。對稱性是此判別法不可或缺的條件。
「順序」指定了次序:必須同時選取前 行及前 列。一般主子式選取相同的行與列指標,但不一定是順序主子式。正定矩陣的每個主子矩陣都正定,因為可將所選座標上的非零向量其餘分量補零。上述判別法更省工,只需檢查逐層包含的順序區塊。重排座標會改變這些區塊,卻不會改變正定性。因此不同次序可能產生不同主元,但結論相同。
非負順序主子式不能保證甚麼
反例模式
順序主子式取弱不等式不能推出半正定
將判別法中所有嚴格不等式改為非嚴格不等式,並不能得到半正定判別法。取 。它的順序主子式為 及 ,都不是負數。但 ,所以 連半正定也不是。第一主元為零會掩蓋其後方向的情況。半正定矩陣可以有奇異的三角分解,但上述正對角構造及唯一性證明不能不經修改便應用。
常見錯誤
常見錯誤
(對角項為正並不足夠)
對稱矩陣 的對角項為正,但取 得 。與此一致,。沿座標軸為正,並不說明組合方向的情況。
常見錯誤
(行列式為正不足以證明正定)
對 ,行列式為 ,但 。判別法要求每個順序主子式都為正;這裏 已經不合格。
例題
例題 5.2.5
(構造並驗證分解)
設 。求 Cholesky 因子並證明正定。
第一主元為 ,所以 的第一列是 。Schur 補為 。其 Cholesky 第一列為 ,最後一個對角項為 。因此
直接相乘得 。對角項均為正,故 可逆,對 有 。順序主子式 提供另一個行列式檢查。
例題 5.2.6
(參數與明確的失敗方向)
設 ,求其正定的確切條件。若不正定,給出一個二次型值非正的非零向量。
第一順序主子式為 ,行列式為 ,所以判別法給出 。等價地,Schur 補為 。若 ,取 ,直接計算得 。當 ,矩陣半正定但奇異;小於該值時,同一向量令二次型為負。這區分了不滿足正定性與更強的不定結論。
例題 5.2.7
(在第二個主元失敗)
檢驗 。
第一主元為 ,,所以 。它的第一個對角項 為負,所以 Cholesky 程序在第二步停止。順序主子式為 、、,與此一致。一個明確的見證向量是 ,有 。即使 ,該矩陣也不是正定的。
即時檢查
快速檢查
(順序主子式判別法能否證明 正定?給出一個說明情況的非零方向。)
計算 。
解答 · 答案
不能。,但 ,所以 不是正定。取 ,,即二次型在一個非零向量上等於零。
快速檢查
(某正定矩陣的順序主子式為 。它的 Cholesky 因子的對角項是甚麼?)
利用 ,其中 。
解答 · 答案
,,。取正平方根,對角項為 。
快速檢查
(對 且 , 何時正定?)
的 Schur 補是一個數。
解答 · 答案
Schur 補為 。由化簡引理, 正定當且僅當 ,即 (等價於 )。