特殊矩陣與結構化分解

特殊矩陣類體現了長度保持、對稱性、投影或正能量等有用的性質。識別矩陣所屬的類，有助於選擇方法。對稱矩陣不一定正定，冪等矩陣也不一定表示正交投影。本章建立這些區別及其計算後果。

1 正交矩陣與置換矩陣

當實方陣 $Q$ 滿足 $Q^TQ=I$ 時，稱其為正交矩陣。這意味著它的欄構成標準正交基。由於欄線性無關的方陣可逆，該恆等式給出 $Q^{-1}=Q^T$，因此也有 $QQ^T=I$。

它保持內積：$(Qu)^T(Qv)=u^TQ^TQv=u^Tv$，因而保持長度和角度。反過來，若它保持所有長度，展開 $\|u+v\|^2$ 可得內積保持，進而得到 $Q^TQ=I$。行列式滿足 $(\det Q)^2=1$，所以 $\det Q=\pm1$。僅有行列式為 $+1$ 不足以保證正交：$\operatorname{diag}(2,1/2)$ 保持行列式為 1，卻改變長度。

置換矩陣重排坐標，而且是正交矩陣，因為它的欄是重新排列的標準基向量。它記錄帶主元消元 $PA=LU$ 中的行交換。平面旋轉矩陣 $\begin{pmatrix}\cos\theta&-\sin\theta\\\sin\theta&\cos\theta\end{pmatrix}$ 是行列式為 1 的正交矩陣；關於一條直線的反射是行列式為 $-1$ 的正交矩陣。

2 對稱部分與反對稱部分

若 $S^T=S$，則實矩陣為對稱矩陣；若 $K^T=-K$，則為反對稱矩陣。每個實方陣都能唯一地分解為

$$A=\frac{A+A^T}{2}+\frac{A-A^T}{2}=S+K.$$

上式兩項具有所需的轉置性質。唯一性來自：一個矩陣若既對稱又反對稱，就等於自身的負矩陣，因而在實數域上為零。

對每個實向量 $x$，有 $x^TKx=0$：將該標量轉置得到 $x^TK^Tx=-x^TKx$。因此二次型 $x^TAx$ 只取決於對稱部分。根據前面的譜定理，對稱矩陣有實標準正交特徵基。反對稱矩陣未必有實特徵基；$\begin{pmatrix}0&-1\\1&0\end{pmatrix}$ 旋轉直角，沒有非零實特徵向量。

若對 $x\ne0$ 有 $x^TSx>0$，則對稱矩陣正定；若該值非負，則為半正定。正交對角化表明，這分別對應特徵值全為正或全為非負。僅有對稱性不能保證其中任一條件：$\operatorname{diag}(1,-1)$ 對稱但不定。

實內積、誘導範數與所需不等式

實向量空間上的內積是取值於實數的映射 $\langle u,v\rangle$，它對稱、對每個變量線性，並且正定：$v\ne0$ 時 $\langle v,v\rangle>0$。線性性給出 $\langle0,v\rangle=0$。定義 $\|v\|=\sqrt{\langle v,v\rangle}$，則範數恰在零向量處為零，且 $\|cv\|=|c|\|v\|$。$\mathbb R^m$ 上的標準例子是 $\langle u,v\rangle=\sum_{i=1}^mu_iv_i$。內積為零的向量稱為正交；不同成員互相正交且每個成員範數為一的列表稱為正交規範列表。

若 $v\ne0$，將 $t=\langle u,v\rangle/\|v\|^2$ 代入非負平方 $\|u-tv\|^2$，以雙線性展開得 $\|u\|^2-\langle u,v\rangle^2/\|v\|^2\ge0$，故 $|\langle u,v\rangle|\le\|u\|\|v\|$。若 $v=0$，該不等式直接成立。對 $v\ne0$，等號意味着 $\|u-tv\|=0$，等價於 $u=tv$；零向量情形也取等。最後展開 $\|u+v\|^2$ 並對交叉項使用該界，得到 $\|u+v\|^2\le(\|u\|+\|v\|)^2$。待開方的兩邊非負，因此得到三角不等式。這確實定義了範數，任何非零向量的歸一化都只除以正實數；這裏不使用複雙線性的約定。

不預設計數結論的有限基存在與擴充

設實向量空間 $V$ 已給定有限生成列表 $t_1,\ldots,t_N$。先證明任何線性無關列表 $u_1,\ldots,u_k$ 的長度不超過 $N$。插入 $j$ 個向量後，維持一個由 $u_1,\ldots,u_j$ 與 $N-j$ 個剩餘舊向量組成的生成列表。將 $u_{j+1}$ 按此列表展開，至少一個剩餘舊向量的係數非零；否則它在先前 $u_i$ 的張成空間中，與無關性矛盾。解出這個舊向量，再以 $u_{j+1}$ 取代它。新列表仍張成同一空間，而且保留全部先前插入向量。若 $k>N$，則 $N$ 步後前 $N$ 個向量已張成 $V$，與 $u_{N+1}$ 的無關性矛盾。此即所需上界，也包括 $N=0$。

每個子空間 $W$ 都有有限基。從空的無關列表開始；若當前張成空間尚不是 $W$，就在 $W$ 中取一個不在該張成空間內的向量。若新向量在某關係中的係數非零，就能由舊向量表示它，矛盾，故新列表仍無關。已證上界允許至多添加 $N$ 次，所以過程必停止於 $W$ 的無關生成列表。若 $W=\{0\}$，立即得到空基。改從 $W$ 內任意給定無關列表開始，同樣證明該列表可擴充為 $W$ 的基；只需有界有限次選擇。最後，若兩組基的長度為 $p,q$，分別把它們用作上界證明中的有限生成列表，得到 $p\le q$ 與 $q\le p$。故基的長度有良定義，稱為維數。這些論證補足秩–零度定理所用的基存在、擴充與維數事實。

正交規範基，以及保留指定向量的擴充

再設 $V$ 具有實正定內積。對無關列表 $v_1,\ldots,v_s$，逐次定義

$$w_j=v_j-\sum_{i<j}\langle v_j,q_i\rangle q_i,\qquad q_j=w_j/\|w_j\|.$$

歸納假設先前 $q_i$ 正交規範。對 $l<j$ 與 $q_l$ 取內積，得 $\langle w_j,q_l\rangle=\langle v_j,q_l\rangle-\langle v_j,q_l\rangle=0$。若 $w_j=0$，則 $v_j$ 在先前張成空間中，矛盾，因此可合法除以它的正範數。所列公式及其移項式說明前 $j$ 個新舊向量張成相同空間，歸納完成。用於一組基就得到正交規範基，子空間亦然。若要擴充一組指定的正交規範向量，先由已證定理將它擴充為普通基，再按此順序進行上述構造。原先指定的向量沒有分量被減去，範數又為一，所以全都精確保留。空列表與零子空間無需相除。這證明了 SVD 及投影存在性所用的正交規範擴充。

有限跡循環性與冪等矩陣的秩

對方陣 $T$，定義 $\operatorname{tr}T=\sum_i t_{ii}$。若 $X$ 是實 $m\times n$ 矩陣，$Y$ 是實 $n\times m$ 矩陣，有限求和及標量交換律給出

$$\operatorname{tr}(XY)=\sum_{i=1}^m\sum_{j=1}^nx_{ij}y_{ji}=\sum_{j=1}^n\sum_{i=1}^my_{ji}x_{ij}=\operatorname{tr}(YX).$$

對可逆方陣 $Q$，因此有 $\operatorname{tr}(Q^{-1}TQ)=\operatorname{tr}(Q(Q^{-1}T))=\operatorname{tr}T$。若 $P^2=P$，每個向量均為 $Px+(I-P)x$，兩項分別屬於像和核，且二者交集為零。已證的有限基定理為這兩個子空間提供基；連接兩組基得到整個空間的基。若像的基有 $r$ 個向量，該基下矩陣為 $\operatorname{diag}(I_r,0)$，跡不變性給出 $\operatorname{tr}P=r=\operatorname{rank}P$。這裏不假設冪等矩陣對稱，也不假設所選基正交規範。

3 冪等矩陣與正交投影

若矩陣 $P$ 滿足 $P^2=P$，則稱其冪等。每個向量可分解為 $x=Px+(I-P)x$，第一部分屬於 $\operatorname{im}P$，第二部分屬於 $\ker P$。兩者的交只有零向量：像中的向量經 $P$ 作用保持不變，若又在核中，則必為零。因此冪等矩陣是沿其核的投影，但這兩個子空間未必垂直。

定理。 實冪等矩陣是正交投影，當且僅當它是對稱矩陣。

證明。 若 $P=P^T$，則對 $u=Px$ 及 $v\in\ker P$，有 $u^Tv=x^TP^Tv=x^TPv=0$。因此像與核正交。反之，若它是正交投影，先取其像的標準正交基，再取核的標準正交基。在此基下矩陣為 $\operatorname{diag}(I,0)$，是對稱的；正交坐標變換保持對稱性。$\square$

對於 $P=\begin{pmatrix}1&1\\0&0\end{pmatrix}$，有 $P^2=P$，但其像是水平軸，核是直線 $x+y=0$，並非像的正交補。這是斜投影。每個冪等矩陣的特徵值都是 0 或 1；像與核的分解給出特徵基，所以即使它不對稱，其跡仍等於秩。

補全歸納步驟的 Cholesky 存在與唯一性

設 $A$ 為 $n\ge1$ 階實對稱正定矩陣。若 $n=1$，則 $A=[a]$、$a>0$，對角元為正的唯一下三角因子為 $[\sqrt a]$。若 $n>1$，寫 $A=\begin{pmatrix}a&b^T\\b&C\end{pmatrix}$。對第一個坐標向量的正定性給出 $a>0$。對任意非零 $y\in\mathbb R^{n-1}$，向量 $(-b^Ty/a,y)^T$ 非零；展開其二次型得到

$$0<(-b^Ty/a,y^T)A(-b^Ty/a,y)^T=y^T(C-bb^T/a)y.$$

因此對稱 Schur 補 $H=C-bb^T/a$ 正定。由歸納假設，存在唯一對角元為正的下三角矩陣 $R$ 使 $H=RR^T$。令

$$L=\begin{pmatrix}\sqrt a&0\\b/\sqrt a&R\end{pmatrix}.$$

分塊相乘得左上元 $a$、左下塊 $b$，以及右下塊 $bb^T/a+RR^T=C$，所以 $LL^T=A$，且其對角元為正。反過來，任何此類因子的左上元 $\ell>0$ 都滿足 $\ell^2=a$，故 $\ell=\sqrt a$；第一欄下部 $c$ 滿足 $\ell c=b$，故 $c=b/\sqrt a$。其尾部矩陣必須分解同一個 $H$，由歸納唯一性只能是 $R$。這證明整個矩陣因子的唯一性。非零對角元的下三角矩陣可通過逐次代入求逆，所以反向結論也成立：$LL^T$ 對稱，且對每個 $x\ne0$，有 $x^TLL^Tx=\|L^Tx\|_2^2>0$。

4 正定矩陣的 Cholesky 分解

對稱正定矩陣存在唯一分解 $A=LL^T$，其中 $L$ 是對角元為正的下三角矩陣。可用歸納法證明。寫成

$$A=\begin{pmatrix}a&b^T\\b&C\end{pmatrix},\qquad a>0.$$

配方可見 Schur 補 $C-bb^T/a$ 正定：在原二次型中令第一個坐標為 $-b^Ty/a$ 即可。歸納地分解該補，取 $L_{11}=\sqrt a$ 和第一欄下部 $b/\sqrt a$，相乘可驗證 $LL^T=A$。各元素和正對角元被逐次確定，因而分解唯一。

例。 對 $A=\begin{pmatrix}4&2\\2&3\end{pmatrix}$，

$$L=\begin{pmatrix}2&0\\1&\sqrt2\end{pmatrix}.$$

它給出對非零 $x$ 的 $x^TAx=\|L^Tx\|^2>0$；求解多個右端的方程組時可依次進行兩次三角代換。這是利用特殊結構的分解，並不表示每個對稱矩陣不經主元交換或修改都具有 Cholesky 分解。

5 分級練習

E1 基礎。 將 $A=\begin{pmatrix}2&3\\-1&4\end{pmatrix}$ 分解為對稱部分與反對稱部分。

E2 投影。 證明 $P=\frac12\begin{pmatrix}1&1\\1&1\end{pmatrix}$ 是正交投影。求其像與核。

E3 正定性。 對哪些實數 $c$，$\begin{pmatrix}2&1\\1&c\end{pmatrix}$ 正定？

E4 分解。 求 $\begin{pmatrix}9&3\\3&5\end{pmatrix}$ 的 Cholesky 因子。

6 詳解

S1. $S=\begin{pmatrix}2&1\\1&4\end{pmatrix}$，$K=\begin{pmatrix}0&2\\-2&0\end{pmatrix}$。它們的和是 $A$，轉置具有所需的符號。

S2. 直接相乘得到 $P^2=P$，且 $P^T=P$。它投影到 $\operatorname{span}(1,1)$，核為 $\operatorname{span}(1,-1)$，這兩個子空間互相垂直。

S3. 配方：$2x^2+2xy+cy^2=2(x+y/2)^2+(c-1/2)y^2$。它正定當且僅當 $c>1/2$。等號給出半正定，更小的 $c$ 則給出不定方向。

S4. 第一個正對角元為 3，左下元素為 1，剩餘對角元的平方為 $5-1=4$。因此 $L=\begin{pmatrix}3&0\\1&2\end{pmatrix}$，它與其轉置的乘積就是給定矩陣。

小結

正交矩陣保持幾何性質；對稱與反對稱部分將二次效應與反對稱效應分開。冪等性給出投影，對稱性則使之成為正交投影。正定性支持 Cholesky 分解及穩定的幾何解釋，但每個結論都依賴完整的矩陣類別條件。