可逆矩阵

有限实矩阵乘法法则的证明

设 $m,n,p,q$ 为正整数，$A\in\mathbb R^{m\times n}$、$B\in\mathbb R^{n\times p}$、$C\in\mathbb R^{p\times q}$。以下只用行乘列定义与实数的有限求和。对任意输出位置 $(i,\ell)$，

$$\begin{aligned} ((AB)C)_{i\ell} &=\sum_{k=1}^{p}\left(\sum_{j=1}^{n}a_{ij}b_{jk}\right)c_{k\ell}\\ &=\sum_{j=1}^{n}a_{ij}\left(\sum_{k=1}^{p}b_{jk}c_{k\ell}\right) =(A(BC))_{i\ell}. \end{aligned}$$

中间等号只交换两个有限和的求和次序，并使用实数分配律。两边同为 $m\times q$ 矩阵，每个位置相等，便证明结合律；没有调换矩阵因子的次序。

对 $D\in\mathbb R^{n\times p}$，同一定义给出

$$[A(B+D)]_{ik}=\sum_{j=1}^{n}a_{ij}(b_{jk}+d_{jk}) =(AB)_{ik}+(AD)_{ik}.$$

对 $E\in\mathbb R^{m\times n}$，则有

$$[(A+E)B]_{ik}=\sum_{j=1}^{n}(a_{ij}+e_{ij})b_{jk} =(AB)_{ik}+(EB)_{ik}.$$

所以在所写的相容大小下，两条分配律均成立。对任意实标量 $c$，

$$[(cA)B]_{ik}=\sum_j(ca_{ij})b_{jk} =c\sum_j a_{ij}b_{jk} =\sum_j a_{ij}(cb_{jk})=[A(cB)]_{ik},$$

逐项相等便证明 $(cA)B=c(AB)=A(cB)$。特别地，对 $x,y\in\mathbb R^n$ 与实数 $s,t$，

$$[A(sx+ty)]_i=\sum_j a_{ij}(sx_j+ty_j) =s(Ax)_i+t(Ay)_i.$$

这证明了比较同一线性系统的解时所用的矩阵乘向量线性性质。所有恒等式都只针对大小相容的有限实矩阵，不声称任意矩阵因子可交换或可消去。

从单位矩阵建立初等矩阵

假设一个初等行变换 $\rho$ 作用于有 $p$ 行的矩阵。先从单位矩阵 $I_p$ 开始，对 $I_p$ 做同一个初等行变换，所得矩阵记作 $E_\rho$。 所有标量都属于矩阵所采用的底域；特别地，每个非零倍数 $c$ 在该域中都有倒数 $1/c$。

定义

初等行变换矩阵

与 $p$ 行矩阵上的初等行变换 $\rho$ 对应的初等行变换矩阵，就是把 $\rho$ 作用在 $I_p$ 上所得的 $p \times p$ 矩阵。

这种矩阵也简称初等矩阵；较长的名称可以明确指出它与指定行变换的关系。

换句话说，

$$E_\rho = \rho(I_p).$$

这个定义有用，是因为以下定理。

定理

初等行变换等同于左乘矩阵

设 $A$ 是任何有 $p$ 行的矩阵，$\rho$ 是一个初等行变换，并以 $\rho(A)$ 表示把它作用于 $A$ 后得到的矩阵。则

$$\rho(A) = E_\rho A.$$

所以，对 $A$ 做这个初等行变换，等同于用同一个操作在 $I_p$ 上得到的 初等行变换矩阵左乘 $A$。

这里必须是左乘。初等行变换改变的是行，会把新行写成旧行的线性组合；左乘正是把 $A$ 的新行写成旧行的线性组合。右乘则会混合列，不是同一件事。

维数也说明了同一点。若 $A$ 是 $p \times n$ 矩阵，则 $E_\rho$ 是 $p \times p$ 矩阵，所以 $E_\rho A$ 有定义，而且仍是 $p \times n$。 这里完全不要求 $A$ 是方阵。相反，对这 $n$ 列进行列变换的矩阵大小为 $n \times n$，并从右边相乘。

为什么左乘会执行指定行变换

证明

对三类初等行变换逐行验证

把任意 $p \times n$ 矩阵 $A$ 的各行记作 $a_1,a_2,\ldots,a_p$，并以 $e_k^{\mathsf T}$ 表示 $I_p$ 的第 $k$ 行。 基本等式

$$e_k^{\mathsf T}A=a_k$$

表示左乘矩阵的一行会选取 $A$ 的相应行。现在逐类检查。

1. 对 $R_i\leftrightarrow R_j$，$E_\rho$ 的第 $i$ 行是 $e_j^{\mathsf T}$，第 $j$ 行是 $e_i^{\mathsf T}$，其余第 $k$ 行仍是 $e_k^{\mathsf T}$。因此 $E_\rho A$ 恰好交换 $A$ 的第 $i,j$ 行。

2. 对 $R_i\leftarrow cR_i$（$c\ne0$），$E_\rho$ 的第 $i$ 行是 $c e_i^{\mathsf T}$，其余行不变。因此乘积的第 $i$ 行为

   $$(c e_i^{\mathsf T})A=c a_i,$$

   而每个 $k\ne i$ 的第 $k$ 行仍为 $a_k$。

3. 对 $R_j\leftarrow R_j+cR_i$（$i\ne j$），$E_\rho$ 的第 $j$ 行是 $e_j^{\mathsf T}+c e_i^{\mathsf T}$，其余行不变，所以新的第 $j$ 行为

   $$(e_j^{\mathsf T}+c e_i^{\mathsf T})A=a_j+c a_i,$$

   正是指定的行加法。

三类情形穷尽了初等行变换，因此对每个相容矩阵 $A$ 都有 $E_\rho A=\rho(A)$。这个证明没有声称任意改动行的方式都对应一个初等矩阵； $\rho$ 必须是刚才检查的三类操作之一。

作用于增广矩阵

假设 $Ax=b$ 由增广矩阵 $[A\mid b]$ 表示。初等行变换必须作用于整个增广 矩阵，不能只改其中一边。相应的乘法等式是

$$E_\rho[A\mid b]=[E_\rho A\mid E_\rho b].$$

因此，系数和右端常数会接受完全相同的行组合。向量 $x$ 满足 $Ax=b$，当且仅当 它满足 $E_\rho Ax=E_\rho b$：正向可把原等式左乘 $E_\rho$，反向则施加逆向 初等行变换。这才是解集保持不变的严格理由。

若只改 $A$ 而固定 $b$，或只改 $b$，一般会得到另一个方程组。增广线只是视觉 上的分隔，不是行变换可以中途停止的边界。

一串初等行变换就是一个矩阵乘积

真正的用途不只是表示一个初等步骤，而是把整串初等行变换写成一个矩阵乘积。

定理

一串初等行变换的乘积表示

假设

$$A_1 \xrightarrow{\rho_1} A_2 \xrightarrow{\rho_2} A_3 \xrightarrow{\rho_3} \cdots \xrightarrow{\rho_k} A_{k+1}.$$

则

$$A_{k+1} = E_{\rho_k}E_{\rho_{k-1}}\cdots E_{\rho_2}E_{\rho_1}A_1.$$

这里每个 $\rho_j$ 都必须是作用于同样行数矩阵的初等行变换。这个乘积表示整串 操作，但乘积本身未必仍是单一个初等行变换矩阵。

这个公式中的顺序很重要。第一个行变换最靠近 $A_1$，因为它最先作用：

$$A_2 = E_{\rho_1}A_1, \qquad A_3 = E_{\rho_2}A_2 = E_{\rho_2}E_{\rho_1}A_1.$$

例题

合并两个行变换

令

$$A = \begin{bmatrix} 1 & 0 & 1\\ 0 & 2 & 1\\ 1 & 0 & 0 \end{bmatrix}.$$

依次做

$$\rho_1:\ R_2 \leftarrow R_2 + R_1, \qquad \rho_2:\ R_1 \leftarrow R_1 + 2R_2.$$

对应的行变换矩阵是

$$E_{\rho_1} = \begin{bmatrix} 1 & 0 & 0\\ 1 & 1 & 0\\ 0 & 0 & 1 \end{bmatrix}, \qquad E_{\rho_2} = \begin{bmatrix} 1 & 2 & 0\\ 0 & 1 & 0\\ 0 & 0 & 1 \end{bmatrix}.$$

两个操作完成后，结果就是

$$E_{\rho_2}E_{\rho_1}A = \begin{bmatrix} 3&2&0\\ 1&1&0\\ 0&0&1 \end{bmatrix} \begin{bmatrix} 1&0&1\\ 0&2&1\\ 1&0&0 \end{bmatrix} = \begin{bmatrix} 3&4&5\\ 1&2&2\\ 1&0&0 \end{bmatrix}.$$

若不想直接相乘 $E_{\rho_2}E_{\rho_1}$，也可以把同一串行变换按同一顺序作用在 $I_3$ 上，所得矩阵就是合并后的左乘矩阵。最后的数值结果也确认：第二步使用的 是已经更新后的第 $2$ 行。

反向行变换与逆矩阵

每个初等行变换都有反向操作：

• $R_j \leftarrow R_j + cR_i$ 的反向操作是 $R_j \leftarrow R_j - cR_i$；
• $R_i \leftarrow cR_i$（其中 $c \ne 0$）的反向操作是 $R_i \leftarrow (1/c)R_i$；
• 交换两行的反向操作仍然是同一次交换。

这给出一个精确的矩阵表述。

定理

初等行变换矩阵都是可逆矩阵

每个初等行变换矩阵都是可逆的。它的逆矩阵，就是反向初等行变换所对应的 初等行变换矩阵。

证明

为什么反向矩阵是双侧逆矩阵

设 $E_\rho$ 表示初等行变换 $\rho$，而 $E_{\rho^{-1}}$ 表示它的反向初等 操作。对每个有 $p$ 行的矩阵 $X$，先做 $\rho$ 再撤销，都会恢复 $X$。由左乘 定理，

$$E_{\rho^{-1}}E_\rho X=X.$$

这个等式对每个这样的 $X$ 都成立；特别取 $X=I_p$，得到 $E_{\rho^{-1}}E_\rho=I_p$。先做反向操作再做 $\rho$，同理得到 $E_\rho E_{\rho^{-1}}=I_p$。因此

$$E_\rho^{-1}=E_{\rho^{-1}}.$$

具体来说，交换两行的逆仍是同一次交换；乘以 $c\ne0$ 的逆是乘以 $1/c$； 把第 $i$ 行的 $c$ 倍加到第 $j$ 行，则由加上 $-c$ 倍第 $i$ 行来撤销。

例如，若

$$E = \begin{bmatrix} 1 & 0 & 0\\ 3 & 1 & 0\\ 0 & 0 & 1 \end{bmatrix}$$

表示 $R_2 \leftarrow R_2 + 3R_1$，则

$$E^{-1} = \begin{bmatrix} 1 & 0 & 0\\ -3 & 1 & 0\\ 0 & 0 & 1 \end{bmatrix}$$

表示 $R_2 \leftarrow R_2 - 3R_1$。

这就是初等行变换可逆的代数原因，也解释了为什么行化简和可逆矩阵有密切关系。

证明

先撤销最后一步操作

设 $E_1,\ldots,E_k$ 按时间顺序编码同一组 $p$ 行矩阵上的操作，合并左乘矩阵就是 $J=E_k\cdots E_1$。每个 $E_j^{-1}$ 表示对应初等行变换的反向操作。要恢复输入，首先必须撤销 $E_k$，因为它是最后一次对行所作的改变；然后依次撤销 $E_{k-1},\ldots,E_1$。因此，反向链的合并矩阵为

$$K=E_1^{-1}E_2^{-1}\cdots E_k^{-1}.$$

这里必须区分两种次序：反向操作的时间顺序从 $E_k^{-1}$ 开始；写成乘积时，最先作用的因子却放在最靠近待恢复矩阵的位置。以三步为例，由结合律可得

$$KJ=E_1^{-1}E_2^{-1}(E_3^{-1}E_3)E_2E_1 =E_1^{-1}(E_2^{-1}E_2)E_1=I_p.$$

另一个乘积 $JK$ 则从相邻的 $E_1E_1^{-1}$ 开始消去，最后同样得到 $I_p$。任意有限链都可这样逐对消去。整个论证没有交换因子，也不要求被变换的矩阵本身是方阵。

把这个读法用于前面的两步例子：合并矩阵是 $E_{\rho_2}E_{\rho_1}$，所以逆矩阵是 $E_{\rho_1}^{-1}E_{\rho_2}^{-1}$。从最终矩阵开始，先从第一行减去当前第二行的两倍，第一行便恢复为 $[1\ 0\ 1]$；再从第二行减去刚恢复的第一行，第二行便恢复为 $[0\ 2\ 1]$。撤销操作是在逐个恢复中间状态，乘积次序也就随之确定，无须另背一个口诀。

有限消元必停止，并保持解集

设 $A\in\mathbb R^{m\times n}$、$b\in\mathbb R^m$，其中 $m,n$ 是有限正整数。允许的行变换为交换不同的两行、以非零标量乘一行，以及把一行的标量倍加到另一行。逆变换分别为同一交换、乘以倒数，以及减去该倍数。因此对整个增广阵施行变换恰好保持 $Ax=b$ 的解集：新方程由旧方程推出，逆变换给出反向蕴含。每个行变换也等于左乘把同一变换施于单位矩阵所得的可逆初等矩阵。

从左到右扫描系数列，并记录下一未使用行。若当前列在未使用行中有非零元素，就将其所在行交换到下一位置，除以非零主元，再从其余各行减去适当倍数，清空该列其他元素，然后推进未使用行指标。若该列所有未使用位置都是零，就跳过该列。先前主元列始终是单位列：当前未使用行在这些列均为零，所以新主元行以及后续减法保留这些零与原主元。总共只有 $n$ 次列扫描及至多 $\min(m,n)$ 个主元，每次只作有限个行变换，故算法必停止。最后非零系数行的主元列依次递增，各主元上下均为零，其余系数行全零。这证明下面使用的简化阶梯形确实能得到，而非假设它最终出现。

解的分类与齐次自由度

令 $r$ 为系数部分的主元数。若某个零系数行对应非零变换后右端，就出现不可能的方程 $0=c$，因此无解。否则任意指定 $n-r$ 个非主元变量的实数值。每个主元行都把其主元变量写成变换后右端减去自由变量的已知线性组合，其中没有其他主元变量。这些公式既构造解，也恢复每一个解。若 $r=n$，解唯一；若 $r<n$，改变自由变量就改变解向量，故有无穷多解。

对 $Az=0$，全部自由变量取零给出零解。若 $r<n$，将一个自由变量设为一，其余设为零，再按主元公式求解，就构造出非零齐次解；若 $r=n$，公式迫使所有齐次变量为零。对相容系统固定一个解 $x_p$，两解相减表明每个解均为 $x_p+z$，其中 $Az=0$；代入又证明反向包含。

当 $A$ 为方阵且每列都有主元时，系数阶梯形为 $I$。有限个初等矩阵之积 $E$ 满足 $EA=I$。因为 $E$ 可逆，$A=E^{-1}$，故也有 $AE=I$，所以 $E$ 是双侧逆。若缺少主元，上面构造的非零齐次解排除可逆性。这也证明可逆时，对 $[A\mid I]$ 作相同行变换会得到 $[I\mid A^{-1}]$。

不预设计数结论的有限基存在与扩充

设实向量空间 $V$ 已给定有限生成列表 $t_1,\ldots,t_N$。先证明任何线性无关列表 $u_1,\ldots,u_k$ 的长度不超过 $N$。插入 $j$ 个向量后，维持一个由 $u_1,\ldots,u_j$ 与 $N-j$ 个剩余旧向量组成的生成列表。将 $u_{j+1}$ 按此列表展开，至少一个剩余旧向量的系数非零；否则它在先前 $u_i$ 的张成空间中，与无关性矛盾。解出这个旧向量，再以 $u_{j+1}$ 取代它。新列表仍张成同一空间，而且保留全部先前插入向量。若 $k>N$，则 $N$ 步后前 $N$ 个向量已张成 $V$，与 $u_{N+1}$ 的无关性矛盾。此即所需上界，也包括 $N=0$。

每个子空间 $W$ 都有有限基。从空的无关列表开始；若当前张成空间尚不是 $W$，就在 $W$ 中取一个不在该张成空间内的向量。若新向量在某关系中的系数非零，就能由旧向量表示它，矛盾，故新列表仍无关。已证上界允许至多添加 $N$ 次，所以过程必停止于 $W$ 的无关生成列表。若 $W=\{0\}$，立即得到空基。改从 $W$ 内任意给定无关列表开始，同样证明该列表可扩充为 $W$ 的基；只需有界有限次选择。最后，若两组基的长度为 $p,q$，分别把它们用作上界证明中的有限生成列表，得到 $p\le q$ 与 $q\le p$。故基的长度有良定义，称为维数。这些论证补足秩–零度定理所用的基存在、扩充与维数事实。

方阵可能把不同输入送到同一个输出，也可能无法产生某些输出。逆矩阵要完全撤销原矩阵的作用，就必须保证每个输出都恰好对应一个输入。因此，可逆性与方程组 $Ax=b$ 的解集直接相关。除非另有说明，矩阵元素均取实数。

开始之前

矩阵乘法必须保持因子次序，每一步合法的初等行变换都可逆。方程组 $Ax=b$ 有唯一解，当且仅当它一致，且化简后每个变量列都有主元。可逆性将保证每个维数适当的右端都满足这个条件。

左逆和右逆

定义

左逆与右逆

设 $A$ 是一个 $p \times q$ 矩阵。

• 如果一个 $q \times p$ 矩阵 $H$ 满足 $HA = I_q$，那么 $H$ 是 $A$ 的左逆。
• 如果一个 $q \times p$ 矩阵 $G$ 满足 $AG = I_p$，那么 $G$ 是 $A$ 的右逆。

对长方形矩阵，左逆或右逆可以单独存在；但若两者都存在，它们必定相同。方阵还具有更强的性质：只要任意一侧的逆存在，另一侧的逆也存在。

定义

可逆矩阵

如果 $A$ 是一个 $p \times p$ 方阵，并且存在另一个 $p \times p$ 矩阵 $B$ 使得

$$BA = AB = I_p,$$

那么 $A$ 称为可逆。矩阵 $B$ 称为 $A$ 的逆矩阵，记作 $A^{-1}$。

定理

逆矩阵是唯一的

设 $A$ 是 $p\times q$ 矩阵，$B,C$ 是 $q\times p$ 矩阵。若 $B$ 是 $A$ 的左逆，$C$ 是右逆，则 $B=C$。特别地，可逆方阵恰好有一个逆矩阵。

证明

为什么逆矩阵唯一

假设给出 $BA=I_q$ 与 $AC=I_p$。由结合律，

$$B=BI_p=B(AC)=(BA)C=I_qC=C.$$

这里没有交换任何因子。可逆方阵的任意两个逆矩阵都满足这些假设，因此必定相同。

什么叫可逆

逆矩阵的定义要求恢复每个输入向量。对角矩阵尤其容易显示这种作用。

例题

对角矩阵最容易看出逆矩阵

设

$$D = \operatorname{diag}(2, -1, 3).$$

那么

$$D^{-1} = \operatorname{diag}\left(\tfrac{1}{2}, -1, \tfrac{1}{3}\right).$$

原因很直接：对角线上的非零元素变成倒数，其余位置的零保持不变。把 $D$ 和 $D^{-1}$ 相乘，就会得到 $I_3$。

等价表述

定理

识别可逆矩阵的等价条件

设 $A$ 是实 $p\times p$ 矩阵。以下条件等价：

1. $A$ 可逆。
2. $A$ 与 $I_p$ 行等价。
3. $A$ 是若干个 $p$ 阶初等行变换矩阵的乘积。
4. $A$ 有左逆。
5. $A$ 有右逆。
6. $A$ 非奇异，即 $Ax=0$ 只有零解。
7. 对每个 $b\in\mathbb R^p$，方程组 $Ax=b$ 都一致。
8. 对每个 $b\in\mathbb R^p$，方程组 $Ax=b$ 都恰好有一个解。

等价地，$A$ 的列向量线性独立，或它们张成 $\mathbb R^p$。这些条件成立时，唯一解为 $A^{-1}b$。

证明

方阵假设在等价性证明中的作用

若 $H$ 是左逆，则 $Ax=0$ 蕴含 $x=HAx=0$。反过来，设齐次系统只有零解。在 $A$ 的任意最简行阶梯形中，自由变量都会产生一个非零齐次解，因此每列都有主元。由于 $A$ 是方阵，恰有 $p$ 个主元行，所得最简行阶梯形必为 $I_p$。

若行变换乘积 $E$ 满足 $EA=I_p$，反向链说明 $E$ 可逆，而且 $A=E^{-1}$。因此 $A$ 可逆，并且本身是初等矩阵的乘积。反过来，这类乘积可逆，而逆矩阵尤其是左逆。这就连接了条件 1–4 和 6，并没有假设 RREF 唯一。

现设 $AG=I_p$。此时 $A$ 是方阵 $G$ 的左逆，刚证明的左逆判别使 $G$ 可逆，从而 $A=A(GG^{-1})=(AG)G^{-1}=G^{-1}$ 可逆。这就证明了右逆判别，没有擅自颠倒乘积。

若每个 $Ax=b$ 都一致，对 $I_p$ 的第 $j$ 列 $e_j$ 选择解 $u_j$，使 $Au_j=e_j$。令 $U=[u_1\ \cdots\ u_p]$，便有 $AU=I_p$，可用右逆判别。最后，若 $A$ 可逆，则 $A(A^{-1}b)=b$ 证明解存在；任意解 $x$ 都满足 $x=A^{-1}Ax=A^{-1}b$，所以解唯一。每个右端都有唯一解，自然蕴含每个右端都有解。

列向量的说法只是翻译：线性独立等价于 $Ax=0$ 只有零系数向量；张成则表示每个 $b$ 都有表示 $Ax=b$。这里没有额外增加列向量的假设。

行化简和逆矩阵

每个初等行变换矩阵都可逆，逆矩阵编码对应的反向操作，证明见 3.5 初等行变换矩阵。若按时间顺序施加的操作对应 $E_1,\ldots,E_k$，合并左乘矩阵就是 $E=E_k\cdots E_1$。

每一步都须作用于整个增广矩阵，因此

$$E[A\mid I_p]=[EA\mid E].$$

若左块变成 $I_p$，则 $EA=I_p$。由于 $E$ 可逆，有 $A=E^{-1}$，右块 $E$ 正是 $A^{-1}$。若左块化简后缺少主元，方阵便不满足上面的等价条件。这一方法同时判断可逆性和计算逆矩阵；右块再复杂，也不能补救左块缺少主元的问题。

如何使用可逆性的等价字典

按已知资料选择判别：主元、单侧逆等式、非零零空间向量，或所有右端的可解性。

例题

非零零空间向量可以证明不可逆

设 $A$ 是方阵，并且

$$v = \begin{bmatrix} 1 \\ -2 \\ 1 \end{bmatrix} \ne 0, \qquad Av = 0.$$

那么 $A$ 不可能可逆。理由是：若 $A^{-1}$ 存在，把 $Av = 0$ 左乘 $A^{-1}$，就会得到

$$A^{-1}Av = A^{-1}0.$$

左边等于 $v$，右边等于 $0$，于是会推出 $v = 0$。这和已知的非零向量矛盾。 因此，只要找到一个非零的 $Ax = 0$ 解，就已经证明 $A$ 是奇异矩阵。

例题

用逆矩阵解方程组

设

$$A^{-1} = \begin{bmatrix} 2 & -1 \\ 0 & 3 \end{bmatrix}, \qquad b = \begin{bmatrix} 5 \\ -1 \end{bmatrix}.$$

若 $Ax = b$，两边左乘 $A^{-1}$：

$$x = A^{-1}b = \begin{bmatrix} 2 & -1 \\ 0 & 3 \end{bmatrix} \begin{bmatrix} 5 \\ -1 \end{bmatrix} = \begin{bmatrix} 11 \\ -3 \end{bmatrix}.$$

逆矩阵不只是“把 $A$ 反过来”的符号，它给出了唯一解的明确公式。

从可逆矩阵角度理解行等价

定理

行等价等同于左乘一个可逆矩阵

设 $A$ 和 $B$ 是有 $p$ 行的矩阵。以下命题等价：

• $A$ 和 $B$ 行等价；
• 存在一个可逆的 $p \times p$ 矩阵 $G$，使得

$$B = GA.$$

并且一旦 $B = GA$，就同时有

$$A = G^{-1}B.$$

行变换链给出这样的乘积 $G$。反过来，等价字典把任意可逆的 $G$ 表成初等矩阵的乘积，所以 $GA$ 可由相应行变换从 $A$ 得到。左乘 $G^{-1}$ 就能恢复 $A$。

例题

把行等价读成一条矩阵等式

设

$$A = \begin{bmatrix} 1 & 0 & 1 \\ 1 & 2 & 3 \\ 0 & 1 & 1 \end{bmatrix}, \qquad G = \begin{bmatrix} 1 & 0 & 0 \\ -1 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix}.$$

矩阵 $G$ 正是行变换

$$R_2 \leftarrow R_2 - R_1$$

对应的行变换矩阵。所以

$$GA = \begin{bmatrix} 1 & 0 & 1 \\ 0 & 2 & 2 \\ 0 & 1 & 1 \end{bmatrix}.$$

如果把这个新矩阵记作 $B$，那么就有 $B = GA$。这一条等式已经完整记录了 这次行变换。因为 $G$ 可逆，所以 $A$ 和 $B$ 行等价。

定理

行变换保留对应列向量之间的线性关系

设 $A$ 和 $B$ 是行等价的 $p \times q$ 矩阵，并把它们的列写成

$$A = [a_1 \; a_2 \; \cdots \; a_q], \qquad B = [b_1 \; b_2 \; \cdots \; b_q].$$

如果

$$a_j = \alpha_1 a_{k_1} + \alpha_2 a_{k_2} + \cdots + \alpha_n a_{k_n},$$

那么必然有

$$b_j = \alpha_1 b_{k_1} + \alpha_2 b_{k_2} + \cdots + \alpha_n b_{k_n}.$$

特别地，对应列之间的线性相关和线性独立，都会被行等价保留。

左乘 $G$ 把关系向前传递，左乘 $G^{-1}$ 则恢复原关系。因此同一组系数关系在两个方向都成立，也就证明了线性相关与线性独立均被保留。列向量本身通常会改变。完整的 RREF 唯一性证明及其与秩的关系，见 5.2 RREF 的唯一性与秩。

乘积与逆矩阵的次序

定理

方阵乘积可逆当且仅当各因子可逆

设 $A,B$ 是实 $p\times p$ 矩阵。$AB$ 可逆，当且仅当 $A,B$ 都可逆。此时

$$(AB)^{-1}=B^{-1}A^{-1}.$$

证明

先构造逆矩阵，再使用它的名称

先假设两个因子都可逆，并令 $C=B^{-1}A^{-1}$。用结合律核对两侧：

$$(AB)C=A(BB^{-1})A^{-1}=I_p,\qquad C(AB)=B^{-1}(A^{-1}A)B=I_p.$$

现在才能断言 $C=(AB)^{-1}$。反向次序使互逆因子彼此相邻；论证没有使用交换律。

证明反向时，假设 $AB$ 可逆，记 $C=(AB)^{-1}$。此时还不能使用 $A^{-1}$ 或 $B^{-1}$，应先写出

$$A(BC)=I_p,\qquad (CA)B=I_p.$$

于是 $A$ 有右逆，$B$ 有左逆。两个因子都是同阶方阵，所以前面已证明的单侧逆判别保证它们可逆。这一步调用等价字典，正是反向证明的关键。

由归纳法，同阶方阵的有限乘积可逆，当且仅当每个因子都可逆，而且

$$(A_1\cdots A_k)^{-1}=A_k^{-1}\cdots A_1^{-1}.$$

转置和幂次

定理

转置、数乘与整数幂

若 $A$ 可逆，则 $(A^{-1})^{-1}=A$，且 $(A^T)^{-1}=(A^{-1})^T$。对非零实数 $c$，有 $(cA)^{-1}=c^{-1}A^{-1}$。

每个整数幂 $A^n$ 都可逆，且 $(A^n)^{-1}=(A^{-1})^n$。这里 $A^0=I_p$；对正整数 $m$，定义 $A^{-m}=(A^{-1})^m$。

转置公式来自对两条互逆等式取转置，此时因子次序反转。数乘公式可在左右两个乘积中约去 $c$ 与 $c^{-1}$；正整数幂来自乘积定理，负整数幂则对 $A^{-1}$ 使用该定理，零次幂就是单位矩阵。对正整数 $n$，$A^n$ 可逆也能反推 $A$ 可逆；但 $n=0$ 时反推不成立，因为奇异方阵仍满足 $A^0=I_p$。

乘积等于单位矩阵时怎样推理

定理

方阵情形下，一侧单位等式已经足够

设 $P$ 和 $Q$ 是同大小方阵。若

$$PQ=I,$$

则 $P$ 和 $Q$ 都可逆，而且

$$Q=P^{-1}, \qquad QP=I.$$

例题

由 $ABCD=I$ 得到循环恒等式

假设 $A,B,C,D$ 都是 $5 \times 5$ 矩阵，且

$$ABCD=I_5.$$

先把乘积分组成

$$(ABC)D=I_5.$$

由一侧单位等式的定理，$ABC$ 和 $D$ 互为逆矩阵。因此

$$DABC=I_5.$$

再用已经证明的循环等式继续分组，可以得到

$$CDAB=I_5, \qquad BCDA=I_5.$$

所以 $BCDA$、$CDAB$ 和 $DABC$ 确实必然等于 $I_5$。但像 $DCBA$ 或 $DBAC$ 这些任意重排则没有被迫成立；矩阵乘法仍然不可交换。

用行化简计算逆矩阵

例题

用行化简求逆矩阵

设

$$A = \begin{bmatrix} 1 & 2 \\ 3 & 5 \end{bmatrix}.$$

先写出 $[A\mid I_2]$：

$$\left[\begin{array}{cc|cc} 1 & 2 & 1 & 0 \\ 3 & 5 & 0 & 1 \end{array}\right].$$

先消去左下角的 3：

$$\left[\begin{array}{cc|cc} 1 & 2 & 1 & 0 \\ 0 & -1 & -3 & 1 \end{array}\right].$$

再把第二行除以 $-1$，然后清掉第一行第二列：

$$\left[\begin{array}{cc|cc} 1 & 0 & -5 & 2 \\ 0 & 1 & 3 & -1 \end{array}\right].$$

因此

$$A^{-1} = \begin{bmatrix} -5 & 2 \\ 3 & -1 \end{bmatrix}.$$

一族逆矩阵

例题

由行化简得到参数化逆矩阵

对实数 $\alpha$，令

$$A_\alpha = \begin{bmatrix} 1 & 2 & 1 & 2 \\ 1 & 3 & 1 & 2 \\ 0 & 0 & 1 & \alpha \\ 1 & 2 & 1 & 3 \end{bmatrix}.$$

把增广矩阵 $[A_\alpha \mid I_4]$ 行化简，得到

$$\left[\begin{array}{cccc|cccc} 1 & 0 & 0 & 0 & 5-\alpha & -2 & -1 & \alpha-2 \\ 0 & 1 & 0 & 0 & -1 & 1 & 0 & 0 \\ 0 & 0 & 1 & 0 & \alpha & 0 & 1 & -\alpha \\ 0 & 0 & 0 & 1 & -1 & 0 & 0 & 1 \end{array}\right].$$

由于左边对每个实数 $\alpha$ 都是 $I_4$，矩阵 $A_\alpha$ 对每个实数 $\alpha$ 都可逆，而且

$$A_\alpha^{-1} = \begin{bmatrix} 5-\alpha & -2 & -1 & \alpha-2 \\ -1 & 1 & 0 & 0 \\ \alpha & 0 & 1 & -\alpha \\ -1 & 0 & 0 & 1 \end{bmatrix}.$$

请注意这个结论的意思。参数仍然留在逆矩阵中；它不是需要解出的未知数。 行化简真正说明的是：没有任何 $\alpha$ 会让左边失去主元。

常见错误

不要把每个参数都当成限制条件

有时参数出现，是因为答案是一族逆矩阵，而不是因为矩阵在某些值下失效。 限制来自缺少主元或非法除以零，不是来自符号本身。

读取已给出的行化简表格

例题

一对互逆矩阵与转置系统

假设一个行化简表格显示 $[A \mid I_4]$ 与 $[I_4 \mid D]$ 行等价，其中

$$D= \begin{bmatrix} 3 & -2 & 3 & -2 \\ 0 & 1 & -2 & 1 \\ -3 & 1 & -2 & 2 \\ 1 & 0 & 1 & -1 \end{bmatrix}.$$

这个最终形状本身已经说明

$$A^{-1}=D.$$

对应的系数矩阵为

$$A= \begin{bmatrix} 1 & 1 & 1 & 1 \\ 1 & 1 & 2 & 3 \\ 2 & 1 & 3 & 3 \\ 3 & 2 & 4 & 3 \end{bmatrix}.$$

直接相乘可得 $AD=I_4$，验证了这对矩阵互为逆矩阵。现在令

$$g= \begin{bmatrix} 1 \\ 0 \\ 3 \\ 0 \end{bmatrix}.$$

要求解 $A^t x=g$，不需要从头再行化简一次。因为 $A$ 可逆，所以 $A^t$ 也可逆， 并且

$$(A^t)^{-1}=(A^{-1})^t=D^t.$$

因此

$$x=(A^t)^{-1}g=D^t g = \begin{bmatrix} -6 \\ 1 \\ -3 \\ 4 \end{bmatrix}.$$

这个计算很短，是因为行化简表格已经完成了主要工作。

例题

用主元列读四个逆矩阵计算

以下每个矩阵都用同一个方法处理：先行化简 $[A \mid I_4]$，先看左边区块的 主元模式；只有当左边区块变成 $I_4$ 时，右边区块才可读作逆矩阵。

情况 (a)。 对

$$A_1= \begin{bmatrix} 1 & 0 & 3 & 3 \\ 2 & 1 & 2 & 3 \\ -1 & 3 & 0 & 3 \\ 4 & 2 & 2 & 4 \end{bmatrix},$$

其中一个行阶梯阶段的左边区块是

$$A_1^\sharp= \begin{bmatrix} 1 & 0 & 3 & 3 \\ 0 & 1 & -4 & -3 \\ 0 & 0 & 1 & 1 \\ 0 & 0 & 0 & 0 \end{bmatrix}.$$

第四列没有主元，所以 $A_1$ 不可逆。

情况 (b)。 取前一个互逆矩阵例子中的 $A_2=A$。行化简得到 $[I_4 \mid D]$，四列都有主元，所以 $A_2^{-1}=D$。前面用来解转置系统的同一个矩阵，在这里给出了一个可逆的情形。

情况 (c)。 对

$$A_3= \begin{bmatrix} 1 & 2 & -1 & 30 \\ 3 & 2 & 0 & 15 \\ 0 & 1 & 3 & 15 \\ 1 & 1 & 1 & 10 \end{bmatrix},$$

其中一个行阶梯阶段的左边区块是

$$A_3^\sharp= \begin{bmatrix} 1 & 2 & -1 & 30 \\ 0 & 1 & 3 & 15 \\ 0 & 0 & 5 & -5 \\ 0 & 0 & 0 & 0 \end{bmatrix}.$$

同样有主元列缺失，所以 $A_3$ 不可逆。

情况 (d)。 对

$$A_4= \begin{bmatrix} 1 & 1 & 2 & 1 \\ 2 & 3 & 4 & 1 \\ 3 & 3 & 3 & 1 \\ 1 & 2 & 3 & 1 \end{bmatrix},$$

行化简可达到 $[I_4 \mid A_4^{-1}]$，其中

$$A_4^{-1}= \begin{bmatrix} 1 & 1 & 0 & -2 \\ -2 & -2 & 1 & 3 \\ 1 & 2 & -1 & -2 \\ 0 & -3 & 1 & 3 \end{bmatrix}.$$

在情况 (b) 与 (d) 中，左边的单位矩阵确认了可逆性。在情况 (a) 与 (c) 中，缺少主元就已排除可逆性，右边区块的数值并不能改变这个结论。

例题

最后的单位区块控制整条行操作链

假设一条行操作链把 $[A \mid I_5]$ 经过中间矩阵 $[B \mid C]$，最后化成 $[D \mid E]$。在最后几步之后，所得增广矩阵是

$$[D \mid E] = \left[ \begin{array}{ccccc|ccccc} 1 & 0 & 0 & 0 & 0 & 1 & 0 & -2 & 0 & 0 \\ 0 & 1 & 0 & 0 & 0 & 9 & 1 & -18 & -3 & -2 \\ 0 & 0 & 1 & 0 & 0 & -6 & 2 & 11 & 2 & 0 \\ 0 & 0 & 0 & 1 & 0 & -3 & 0 & 6 & 1 & 0 \\ 0 & 0 & 0 & 0 & 1 & -6 & 0 & 12 & 2 & 1 \end{array} \right].$$

左边区块是 $I_5$，所以 $D=I_5$，而

$$A^{-1}=E= \begin{bmatrix} 1 & 0 & -2 & 0 & 0 \\ 9 & 1 & -18 & -3 & -2 \\ -6 & 2 & 11 & 2 & 0 \\ -3 & 0 & 6 & 1 & 0 \\ -6 & 0 & 12 & 2 & 1 \end{bmatrix}.$$

于是可以立即推出 $A^t$ 可逆，且

$$(A^t)^{-1}=E^t = \begin{bmatrix} 1 & 9 & -6 & -3 & -6 \\ 0 & 1 & 2 & 0 & 0 \\ -2 & -18 & 11 & 6 & 12 \\ 0 & -3 & 2 & 1 & 2 \\ 0 & -2 & 0 & 0 & 1 \end{bmatrix}.$$

同一条行操作链也可以被读成一次左乘。令 $H$ 为整条链中所有行操作矩阵的 乘积。因为 $HA=I_5$ 且 $HI_5=E$，所以 $H=A^{-1}$。因此，如果同一批行操作 把 $F+I_5$ 化成 $A^3+3A+I_5$，就有

$$A^3+3A+I_5=A^{-1}(F+I_5).$$

左乘 $A$ 得到

$$F+I_5=A(A^3+3A+I_5)=A^4+3A^2+A,$$

所以

$$F=A^4+3A^2+A-I_5.$$

同一条行操作链对每个矩阵的作用，都是左乘同一个矩阵 $H=A^{-1}$。因此，这次数值化简也确定了关于 $F$ 的方程。

不用行列式证明或否定可逆性

例题

由向量恒等式证明可逆

假设 $A$ 是 $7 \times 7$ 矩阵，而且

$$A^2x = Ax + x$$

对每个 $x \in \mathbb R^7$ 都成立。把含有 $A$ 的项移到左边：

$$(A^2-A)x = x \qquad\text{对每个 }x.$$

因为 $A^2-A=(A-I_7)A$，这就是

$$((A-I_7)A)x = I_7x \qquad\text{对每个 }x.$$

若两个矩阵作用在每个向量上的结果都相同，它们就是同一个矩阵，所以

$$(A-I_7)A = I_7.$$

因此 $A-I_7$ 是 $A$ 的左逆。由于 $A$ 是方阵，一侧单位等式已经足够推出： $A$ 可逆，而且其逆矩阵是 $A-I_7$。

例题

用反证法证明某个多项式矩阵不可逆

假设 $A$ 和 $B$ 是两个不同的 $6 \times 6$ 矩阵，且

$$A^3=B^3, \qquad A^2B=B^2A.$$

我们证明 $A^2+B^2$ 不可逆。令

$$C=A^2+B^2.$$

先比较 $CB$ 与 $CA$：

$$CB=(A^2+B^2)B=A^2B+B^3,$$

而

$$CA=(A^2+B^2)A=A^3+B^2A.$$

利用已知的 $A^2B=B^2A$ 和 $B^3=A^3$，可得

$$CB=CA.$$

如果 $C$ 可逆，左乘 $C^{-1}$ 就会得到 $B=A$，这与 $A$、$B$ 不同矛盾。 所以 $C=A^2+B^2$ 不可逆。

常见错误

常见错误

不要把长方形矩阵的一侧逆当成另一侧逆

对于非方阵，有左逆并不保证有右逆，有右逆也不保证有左逆；若两侧逆都存在，则必定相同。对于方阵，前面的等价性定理保证：任意一侧逆的存在，都能推出唯一的双侧逆存在。

常见错误

不要只凭外表判断可逆性

一个矩阵看起来简单，也不代表它一定可逆。正确方法是行化简，或者使用上面列出的等价条件。

常见错误

不要在未证明时任意交换因子

由 $ABCD=I$ 可以通过逆矩阵理论推出某些循环恒等式，例如 $DABC=I$。但这 不代表可以把因子任意改排成 $DCBA$；除非已知矩阵彼此可交换，否则不能 这样做。

快速检查

思考检查

如果 $A$ 可逆，$A^{-1}A$ 是什么？

直接用逆矩阵的定义。

解答 · 答案

$A^{-1}A = I_p$。

思考检查

如果 $A$ 可逆，齐次方程组 $Ax = 0$ 会不会有非零解？

用唯一解的结论来想。

解答 · 答案

不会。因为可逆时，$Ax = b$ 对每个 $b$ 都有唯一解；取 $b = 0$ 时，唯一解就是 $x = 0$。

思考检查

如果 $A$ 可逆，$A^t$ 是否可逆？

使用上面的转置定理。

解答 · 答案

是。$A^t$ 可逆，而且 $(A^t)^{-1} = (A^{-1})^t$。

思考检查

若 $B = GA$，而 $G$ 可逆，同时 $A$ 的列满足 $a_3 = 2a_1 - a_2$，那么 $B$ 的对应列必须满足什么关系？

保留同一组系数，并用 $b_j = Ga_j$。

解答 · 答案

$B$ 的对应列必须满足

$$b_3 = 2b_1 - b_2.$$

行等价会改变列向量本身，但不会改变线性关系所使用的系数模式。

思考检查

假设 $A,B,C,D$ 都是方阵，且 $ABCD=I$。哪一个循环等式必然成立：$DABC=I$ 还是 $DCBA=I$？

把原式分组成 $(ABC)D=I$。

解答 · 答案

$DABC=I$ 必然成立。因为 $(ABC)D=I$，方阵的一侧单位等式定理说明 $D$ 是 $ABC$ 的逆矩阵，所以 $D(ABC)=I$。而 $DCBA=I$ 是把因子倒序重排，通常不会 被原式保证。

思考检查

在上面的参数化逆矩阵中，当 $\alpha=3$ 时，$A_\alpha^{-1}$ 的 $(1,4)$ 元素是多少？

把 $\alpha=3$ 代入第一行第四列。

解答 · 答案

$(1,4)$ 元素是 $\alpha-2$，所以当 $\alpha=3$ 时，它等于 $1$。

思考检查

若对每个向量 $x$ 都有 $A^2x=Ax+x$，哪个矩阵可作为 $A$ 的逆矩阵？

把所有项移到同一边，再寻找含有 $A$ 的因式分解。

解答 · 答案

逆矩阵是 $A-I$。向量恒等式给出 $(A-I)A=I$；对方阵而言，这个一侧单位 等式足以推出 $A$ 可逆。

思考检查

若行操作把 $[A \mid I_p]$ 化成 $[I_p \mid D]$，$D$ 是什么？

只有在确认左边区块是单位矩阵后，才读取右边区块。

解答 · 答案

$D=A^{-1}$。同一批把 $A$ 化成 $I_p$ 的行操作，会把 $I_p$ 化成 $A$ 的 逆矩阵。

思考检查

行变换把 $[A\mid I_p]$ 化成 $[I_p\mid E]$，其中 $A$ 是方阵。说明为什么除了 $EA=I_p$，还必有 $AE=I_p$。

区分行操作乘积直接给出的等式，与方阵单侧逆定理补上的结论。

解答 · 答案

设初等矩阵的乘积为 $H$，两个分块直接给出 $HA=I_p$ 和 $HI_p=E$。因此 $H=E$，并且 $EA=I_p$。由于 $A$ 与 $E$ 是同阶方阵，左逆也必是右逆，所以 $E=A^{-1}$ 且 $AE=I_p$。最后这个推论必须使用方阵假设。

练习

思考检查

假设 $A$ 可逆，而且 $AB = I_p$。证明 $B = A^{-1}$。

可以利用逆矩阵唯一性，也可以左乘 $A^{-1}$。

解答 · 引导解答

因为 $A$ 可逆，所以存在 $A^{-1}$。把等式 $AB = I_p$ 左乘 $A^{-1}$，得到

$$A^{-1}(AB) = A^{-1}I_p.$$

由结合律，

$$(A^{-1}A)B = A^{-1}.$$

而 $A^{-1}A = I_p$，所以

$$B = A^{-1}.$$

因此任何可逆方阵的右逆都必定等于它的逆矩阵。

思考检查

假设 $(A-B)A=I$，其中 $A$ 和 $B$ 是方阵。证明 $A$ 和 $B$ 可交换。

先使用方阵的一侧单位等式定理，再展开 $AB-BA$。

解答 · 引导解答

由 $(A-B)A=I$，方阵的一侧单位等式定理给出

$$A(A-B)=I.$$

现在计算交换子：

$$AB-BA = AB-A^2+A^2-BA.$$

把两部分重新分组：

$$AB-A^2 = A(B-A) = -A(A-B),$$

以及

$$A^2-BA = (A-B)A.$$

因此

$$AB-BA = -A(A-B)+(A-B)A = -I+I=0.$$

所以 $AB=BA$，即 $A$ 和 $B$ 可交换。

相关笔记

这一页特别依赖 2.3 高斯消元与 RREF、 3.2 矩阵乘法、单位矩阵与线性方程组 和 3.3 转置、对称矩阵与反对称矩阵。

零空间只有零向量与解的唯一性之间的关系，见 4.1 齐次方程组与零空间。