特殊矩阵与结构化分解

特殊矩阵类体现了长度保持、对称性、投影或正能量等有用的性质。识别矩阵所属的类，有助于选择方法。对称矩阵不一定正定，幂等矩阵也不一定表示正交投影。本章建立这些区别及其计算后果。

1 正交矩阵与置换矩阵

当实方阵 $Q$ 满足 $Q^TQ=I$ 时，称其为正交矩阵。这意味着它的列构成标准正交基。由于列线性无关的方阵可逆，该恒等式给出 $Q^{-1}=Q^T$，因此也有 $QQ^T=I$。

它保持内积：$(Qu)^T(Qv)=u^TQ^TQv=u^Tv$，因而保持长度和角度。反过来，若它保持所有长度，展开 $\|u+v\|^2$ 可得内积保持，进而得到 $Q^TQ=I$。行列式满足 $(\det Q)^2=1$，所以 $\det Q=\pm1$。仅有行列式为 $+1$ 不足以保证正交：$\operatorname{diag}(2,1/2)$ 保持行列式为 1，却改变长度。

置换矩阵重排坐标，而且是正交矩阵，因为它的列是重新排列的标准基向量。它记录带主元消元 $PA=LU$ 中的行交换。平面旋转矩阵 $\begin{pmatrix}\cos\theta&-\sin\theta\\\sin\theta&\cos\theta\end{pmatrix}$ 是行列式为 1 的正交矩阵；关于一条直线的反射是行列式为 $-1$ 的正交矩阵。

2 对称部分与反对称部分

若 $S^T=S$，则实矩阵为对称矩阵；若 $K^T=-K$，则为反对称矩阵。每个实方阵都能唯一地分解为

$$A=\frac{A+A^T}{2}+\frac{A-A^T}{2}=S+K.$$

上式两项具有所需的转置性质。唯一性来自：一个矩阵若既对称又反对称，就等于自身的负矩阵，因而在实数域上为零。

对每个实向量 $x$，有 $x^TKx=0$：将该标量转置得到 $x^TK^Tx=-x^TKx$。因此二次型 $x^TAx$ 只取决于对称部分。根据前面的谱定理，对称矩阵有实标准正交特征基。反对称矩阵未必有实特征基；$\begin{pmatrix}0&-1\\1&0\end{pmatrix}$ 旋转直角，没有非零实特征向量。

若对 $x\ne0$ 有 $x^TSx>0$，则对称矩阵正定；若该值非负，则为半正定。正交对角化表明，这分别对应特征值全为正或全为非负。仅有对称性不能保证其中任一条件：$\operatorname{diag}(1,-1)$ 对称但不定。

实内积、诱导范数与所需不等式

实向量空间上的内积是取值于实数的映射 $\langle u,v\rangle$，它对称、对每个变量线性，并且正定：$v\ne0$ 时 $\langle v,v\rangle>0$。线性性给出 $\langle0,v\rangle=0$。定义 $\|v\|=\sqrt{\langle v,v\rangle}$，则范数恰在零向量处为零，且 $\|cv\|=|c|\|v\|$。$\mathbb R^m$ 上的标准例子是 $\langle u,v\rangle=\sum_{i=1}^mu_iv_i$。内积为零的向量称为正交；不同成员互相正交且每个成员范数为一的列表称为正交规范列表。

若 $v\ne0$，将 $t=\langle u,v\rangle/\|v\|^2$ 代入非负平方 $\|u-tv\|^2$，以双线性展开得 $\|u\|^2-\langle u,v\rangle^2/\|v\|^2\ge0$，故 $|\langle u,v\rangle|\le\|u\|\|v\|$。若 $v=0$，该不等式直接成立。对 $v\ne0$，等号意味着 $\|u-tv\|=0$，等价于 $u=tv$；零向量情形也取等。最后展开 $\|u+v\|^2$ 并对交叉项使用该界，得到 $\|u+v\|^2\le(\|u\|+\|v\|)^2$。待开方的两边非负，因此得到三角不等式。这确实定义了范数，任何非零向量的归一化都只除以正实数；这里不使用复双线性的约定。

不预设计数结论的有限基存在与扩充

设实向量空间 $V$ 已给定有限生成列表 $t_1,\ldots,t_N$。先证明任何线性无关列表 $u_1,\ldots,u_k$ 的长度不超过 $N$。插入 $j$ 个向量后，维持一个由 $u_1,\ldots,u_j$ 与 $N-j$ 个剩余旧向量组成的生成列表。将 $u_{j+1}$ 按此列表展开，至少一个剩余旧向量的系数非零；否则它在先前 $u_i$ 的张成空间中，与无关性矛盾。解出这个旧向量，再以 $u_{j+1}$ 取代它。新列表仍张成同一空间，而且保留全部先前插入向量。若 $k>N$，则 $N$ 步后前 $N$ 个向量已张成 $V$，与 $u_{N+1}$ 的无关性矛盾。此即所需上界，也包括 $N=0$。

每个子空间 $W$ 都有有限基。从空的无关列表开始；若当前张成空间尚不是 $W$，就在 $W$ 中取一个不在该张成空间内的向量。若新向量在某关系中的系数非零，就能由旧向量表示它，矛盾，故新列表仍无关。已证上界允许至多添加 $N$ 次，所以过程必停止于 $W$ 的无关生成列表。若 $W=\{0\}$，立即得到空基。改从 $W$ 内任意给定无关列表开始，同样证明该列表可扩充为 $W$ 的基；只需有界有限次选择。最后，若两组基的长度为 $p,q$，分别把它们用作上界证明中的有限生成列表，得到 $p\le q$ 与 $q\le p$。故基的长度有良定义，称为维数。这些论证补足秩–零度定理所用的基存在、扩充与维数事实。

正交规范基，以及保留指定向量的扩充

再设 $V$ 具有实正定内积。对无关列表 $v_1,\ldots,v_s$，逐次定义

$$w_j=v_j-\sum_{i<j}\langle v_j,q_i\rangle q_i,\qquad q_j=w_j/\|w_j\|.$$

归纳假设先前 $q_i$ 正交规范。对 $l<j$ 与 $q_l$ 取内积，得 $\langle w_j,q_l\rangle=\langle v_j,q_l\rangle-\langle v_j,q_l\rangle=0$。若 $w_j=0$，则 $v_j$ 在先前张成空间中，矛盾，因此可合法除以它的正范数。所列公式及其移项式说明前 $j$ 个新旧向量张成相同空间，归纳完成。用于一组基就得到正交规范基，子空间亦然。若要扩充一组指定的正交规范向量，先由已证定理将它扩充为普通基，再按此顺序进行上述构造。原先指定的向量没有分量被减去，范数又为一，所以全都精确保留。空列表与零子空间无需相除。这证明了 SVD 及投影存在性所用的正交规范扩充。

有限迹循环性与幂等矩阵的秩

对方阵 $T$，定义 $\operatorname{tr}T=\sum_i t_{ii}$。若 $X$ 是实 $m\times n$ 矩阵，$Y$ 是实 $n\times m$ 矩阵，有限求和及标量交换律给出

$$\operatorname{tr}(XY)=\sum_{i=1}^m\sum_{j=1}^nx_{ij}y_{ji}=\sum_{j=1}^n\sum_{i=1}^my_{ji}x_{ij}=\operatorname{tr}(YX).$$

对可逆方阵 $Q$，因此有 $\operatorname{tr}(Q^{-1}TQ)=\operatorname{tr}(Q(Q^{-1}T))=\operatorname{tr}T$。若 $P^2=P$，每个向量均为 $Px+(I-P)x$，两项分别属于像和核，且二者交集为零。已证的有限基定理为这两个子空间提供基；连接两组基得到整个空间的基。若像的基有 $r$ 个向量，该基下矩阵为 $\operatorname{diag}(I_r,0)$，迹不变性给出 $\operatorname{tr}P=r=\operatorname{rank}P$。这里不假设幂等矩阵对称，也不假设所选基正交规范。

3 幂等矩阵与正交投影

若矩阵 $P$ 满足 $P^2=P$，则称其幂等。每个向量可分解为 $x=Px+(I-P)x$，第一部分属于 $\operatorname{im}P$，第二部分属于 $\ker P$。两者的交只有零向量：像中的向量经 $P$ 作用保持不变，若又在核中，则必为零。因此幂等矩阵是沿其核的投影，但这两个子空间未必垂直。

定理。 实幂等矩阵是正交投影，当且仅当它是对称矩阵。

证明。 若 $P=P^T$，则对 $u=Px$ 及 $v\in\ker P$，有 $u^Tv=x^TP^Tv=x^TPv=0$。因此像与核正交。反之，若它是正交投影，先取其像的标准正交基，再取核的标准正交基。在此基下矩阵为 $\operatorname{diag}(I,0)$，是对称的；正交坐标变换保持对称性。$\square$

对于 $P=\begin{pmatrix}1&1\\0&0\end{pmatrix}$，有 $P^2=P$，但其像是水平轴，核是直线 $x+y=0$，并非像的正交补。这是斜投影。每个幂等矩阵的特征值都是 0 或 1；像与核的分解给出特征基，所以即使它不对称，其迹仍等于秩。

补全归纳步骤的 Cholesky 存在与唯一性

设 $A$ 为 $n\ge1$ 阶实对称正定矩阵。若 $n=1$，则 $A=[a]$、$a>0$，对角元为正的唯一下三角因子为 $[\sqrt a]$。若 $n>1$，写 $A=\begin{pmatrix}a&b^T\\b&C\end{pmatrix}$。对第一个坐标向量的正定性给出 $a>0$。对任意非零 $y\in\mathbb R^{n-1}$，向量 $(-b^Ty/a,y)^T$ 非零；展开其二次型得到

$$0<(-b^Ty/a,y^T)A(-b^Ty/a,y)^T=y^T(C-bb^T/a)y.$$

因此对称 Schur 补 $H=C-bb^T/a$ 正定。由归纳假设，存在唯一对角元为正的下三角矩阵 $R$ 使 $H=RR^T$。令

$$L=\begin{pmatrix}\sqrt a&0\\b/\sqrt a&R\end{pmatrix}.$$

分块相乘得左上元 $a$、左下块 $b$，以及右下块 $bb^T/a+RR^T=C$，所以 $LL^T=A$，且其对角元为正。反过来，任何此类因子的左上元 $\ell>0$ 都满足 $\ell^2=a$，故 $\ell=\sqrt a$；第一列下部 $c$ 满足 $\ell c=b$，故 $c=b/\sqrt a$。其尾部矩阵必须分解同一个 $H$，由归纳唯一性只能是 $R$。这证明整个矩阵因子的唯一性。非零对角元的下三角矩阵可通过逐次代入求逆，所以反向结论也成立：$LL^T$ 对称，且对每个 $x\ne0$，有 $x^TLL^Tx=\|L^Tx\|_2^2>0$。

4 正定矩阵的 Cholesky 分解

对称正定矩阵存在唯一分解 $A=LL^T$，其中 $L$ 是对角元为正的下三角矩阵。可用归纳法证明。写成

$$A=\begin{pmatrix}a&b^T\\b&C\end{pmatrix},\qquad a>0.$$

配方可见 Schur 补 $C-bb^T/a$ 正定：在原二次型中令第一个坐标为 $-b^Ty/a$ 即可。归纳地分解该补，取 $L_{11}=\sqrt a$ 和第一列下部 $b/\sqrt a$，相乘可验证 $LL^T=A$。各元素和正对角元被逐次确定，因而分解唯一。

例。 对 $A=\begin{pmatrix}4&2\\2&3\end{pmatrix}$，

$$L=\begin{pmatrix}2&0\\1&\sqrt2\end{pmatrix}.$$

它给出对非零 $x$ 的 $x^TAx=\|L^Tx\|^2>0$；求解多个右端的方程组时可依次进行两次三角代换。这是利用特殊结构的分解，并不表示每个对称矩阵不经主元交换或修改都具有 Cholesky 分解。

5 分级练习

E1 基础。 将 $A=\begin{pmatrix}2&3\\-1&4\end{pmatrix}$ 分解为对称部分与反对称部分。

E2 投影。 证明 $P=\frac12\begin{pmatrix}1&1\\1&1\end{pmatrix}$ 是正交投影。求其像与核。

E3 正定性。 对哪些实数 $c$，$\begin{pmatrix}2&1\\1&c\end{pmatrix}$ 正定？

E4 分解。 求 $\begin{pmatrix}9&3\\3&5\end{pmatrix}$ 的 Cholesky 因子。

6 详解

S1. $S=\begin{pmatrix}2&1\\1&4\end{pmatrix}$，$K=\begin{pmatrix}0&2\\-2&0\end{pmatrix}$。它们的和是 $A$，转置具有所需的符号。

S2. 直接相乘得到 $P^2=P$，且 $P^T=P$。它投影到 $\operatorname{span}(1,1)$，核为 $\operatorname{span}(1,-1)$，这两个子空间互相垂直。

S3. 配方：$2x^2+2xy+cy^2=2(x+y/2)^2+(c-1/2)y^2$。它正定当且仅当 $c>1/2$。等号给出半正定，更小的 $c$ 则给出不定方向。

S4. 第一个正对角元为 3，左下元素为 1，剩余对角元的平方为 $5-1=4$。因此 $L=\begin{pmatrix}3&0\\1&2\end{pmatrix}$，它与其转置的乘积就是给定矩阵。

小结

正交矩阵保持几何性质；对称与反对称部分将二次效应与反对称效应分开。幂等性给出投影，对称性则使之成为正交投影。正定性支持 Cholesky 分解及稳定的几何解释，但每个结论都依赖完整的矩阵类别条件。