列空间、行空间与秩

固定一个矩阵，就得到两个子空间：

• 由各列向量张成的子空间；
• 由各行向量张成的子空间。

它们分别描述矩阵的可能输出，以及各行能生成的线性方程。

• 对于方程组 $Ax = b$，哪些右端向量 $b$ 真的可能出现？
• 各行里面实际上保存了多少独立的线性信息？
• 把冗余完全删掉以后，还剩下多少个真正独立的方向？

答案就叫做矩阵的 列空间、行空间 和 秩。

列空间：矩阵能够输出什么？

设 $A$ 是一个 $m \times n$ 矩阵，把它的列写成

$$A = \begin{bmatrix} a_1 & a_2 & \cdots & a_n \end{bmatrix}.$$

定义

列空间

矩阵 $A$ 的 列空间，记作 $C(A)$，就是 $A$ 各列向量的张成：

$$C(A) = \operatorname{Span}\{a_1, a_2, \ldots, a_n\}.$$

它是 $R^m$ 的一个子空间。

这个定义最有用的读法，是通过矩阵乘法理解。 如果 $x = (x_1, \ldots, x_n)^t$，那么

$$Ax = x_1 a_1 + x_2 a_2 + \cdots + x_n a_n.$$

所以任何形如 $Ax$ 的向量，都是各列向量的线性组合。 反过来说，任何由各列向量组成的线性组合，也都可以写成某个 $Ax$。

定理

列空间就是所有可能输出

对任意 $m \times n$ 矩阵 $A$，

$$C(A) = \{Ax : x \in R^n\}.$$

因此向量 $b \in R^m$ 属于 $C(A)$，当且仅当方程组 $Ax = b$ 相容、有解。

行空间：各行带着什么线性信息？

将 $A$ 的各行记为 $r_1,\ldots,r_m$，每行是 $1\times n$ 矩阵。为了把它们的张成视为通常列向量空间 $\mathbb R^n$ 的子空间，我们明确使用各行的转置。

定义

行空间

矩阵 $A$ 的行空间定义为

$$R(A)=\operatorname{Span}\{r_1^T,\ldots,r_m^T\}=C(A^T) =\{A^Ts:s\in\mathbb R^m\}.$$

它是 $\mathbb R^n$ 的子空间。

因此 $x\in R(A)$ 表示存在 $s\in\mathbb R^m$ 使 $x=A^Ts$，等价地，$x^T=s^TA$：行向量 $x^T$ 是 $A$ 各行的线性组合。计算时可以把行横向写出，但下面的行空间基底由这些行的转置组成。这个约定使 $R(A)=C(A^T)$ 成为列向量集合之间真正的相等。

比较空间之前，必须检查所在空间的维数。$A$ 的列有 $m$ 个分量，所以 $C(A)\subseteq\mathbb R^m$；转置后的行有 $n$ 个分量，所以 $R(A)\subseteq\mathbb R^n$。对 $A^T$ 使用同一定义，还得到 $C(A)=R(A^T)$。即使 $m=n$，两者位于同一空间，也不保证两个张成相等。区别在于实际成员，而不只是名称不同。

秩：把独立方向数清楚

列空间的维数叫做 列秩， 行空间的维数叫做 行秩。 线性代数的一条核心定理告诉我们，这两个数其实相等。

定义

秩

矩阵 $A$ 的秩定义为其 RREF 中主元的个数 $r$。下面的基底定理将证明等价的维数公式：

$$\operatorname{rank}(A) = \dim C(A) = \dim R(A).$$

当你把矩阵行化简到 RREF 以后，主元列的个数正好就是秩。 所以秩衡量的是：去掉所有冗余以后，还保留了多少个独立方向。

主元位置是从 RREF 里读出来的，但列空间的基底向量必须回到原矩阵里面去取。

例题：一次行化简读出列空间、行空间和秩

例题

从同一个矩阵读出列空间、行空间与秩

考虑

$$A = \begin{bmatrix} 1 & 2 & 1 & 3 \\ 0 & 1 & 1 & 1 \\ 1 & 3 & 2 & 4 \end{bmatrix}.$$

行化简得到

$$A \sim \begin{bmatrix} 1 & 0 & -1 & 1 \\ 0 & 1 & 1 & 1 \\ 0 & 0 & 0 & 0 \end{bmatrix} = R.$$

可以依次执行 $R_3\leftarrow R_3-R_1$、$R_3\leftarrow R_3-R_2$、$R_1\leftarrow R_1-2R_2$。第三行变为零，前两行的首一分别位于第一、二列，得到的正是所显示的 RREF，而不只是主元位置尚未解释的阶梯矩阵。

这里有两个主元列，也就是第 $1$ 列和第 $2$ 列。

把 $A$ 的列记为

$$c_1 = \begin{bmatrix} 1 \\ 0 \\ 1 \end{bmatrix}, \quad c_2 = \begin{bmatrix} 2 \\ 1 \\ 3 \end{bmatrix}, \quad c_3 = \begin{bmatrix} 1 \\ 1 \\ 2 \end{bmatrix}, \quad c_4 = \begin{bmatrix} 3 \\ 1 \\ 4 \end{bmatrix}.$$

那么列空间的一组基底就是

$$\{c_1, c_2\}.$$

因为其余列都可以由它们表示出来：

$$c_3 = -c_1 + c_2, \qquad c_4 = c_1 + c_2.$$

对于行空间，则使用 $R$ 的非零行的转置：

$$\{(1, 0, -1, 1)^T, (0, 1, 1, 1)^T\}.$$

于是

$$\dim C(A) = 2, \qquad \dim R(A) = 2, \qquad \operatorname{rank}(A) = 2.$$

最后，如果

$$b = \begin{bmatrix} 5 \\ 2 \\ 7 \end{bmatrix},$$

那么 $b \in C(A)$，因为

$$b = c_1 + 2c_2.$$

等价地，方程组 $Ax = b$ 是有解的。

这张静态图整理上面的例题：主元位置由 RREF 读出，列空间的基向量取自原矩阵，RREF 非零行的转置形成行空间的一组基，而两个空间的维数同样等于秩。

一次 RREF 给出的三个结果

下方图解重新整理同一个例题。请区分从 RREF 读出的信息，以及必须回到原矩阵取得的列空间基向量。

行化简时，到底保留了什么？

行化简保留其中一部分结构，也会改变另一部分结构。

定理

可逆乘法保留哪些空间

设 $A$ 为实 $m\times n$ 矩阵，$G$ 为可逆 $n\times n$ 矩阵，$H$ 为可逆 $m\times m$ 矩阵，则

$$C(AG)=C(A),\qquad R(HA)=R(A).$$

特别地，行等价矩阵具有相同行空间；它们的列空间却未必相等。

证明

在反向包含中使用逆矩阵

若 $y\in C(AG)$，写成 $y=AGs=A(Gs)$，便知 $y\in C(A)$。反过来，若 $y=At\in C(A)$，取 $s=G^{-1}t$，则 $AGs=AGG^{-1}t=At=y$，得到反向包含。第一个方向无须逆矩阵，第二个方向用它构造所需的系数向量。

现在 $(HA)^T=A^TH^T$，而 $H^T$ 可逆，其逆为 $(H^{-1})^T$。应用刚才的结论，得 $R(HA)=C(A^TH^T)=C(A^T)=R(A)$。一串行变换就是左乘某个可逆 $H$，所以行等价的结论随之成立。等价地，每个新行是旧行的组合，而逆向执行行变换又给出两个张成之间的反向包含。

左乘对输出有不同作用：$C(HA)=\{Hy:y\in C(A)\}$，因为两种描述都来自 $(HA)x=H(Ax)$。这是原列空间的可逆像，未必是 $\mathbb R^m$ 中相同的子集。若 $A,B$ 行数相同，同时左乘同一个可逆 $H$，则 $C(A)=C(B)$ 当且仅当 $C(HA)=C(HB)$：正向对相等集合施加 $H$，反向施加 $H^{-1}$。比较两个变换后的空间，与声称其中任何一个不变，是不同的结论。

为什么基底规则与秩相等成立

定理

主元基底与行列秩相等

设实 $m\times n$ 矩阵 $A$ 的 RREF 为 $Q$，有 $r$ 个主元，所在列为 $j_1,\ldots,j_r$。原矩阵的列 $a_{j_1},\ldots,a_{j_r}$ 构成 $C(A)$ 的基底；$Q$ 的 $r$ 个非零行的转置构成 $R(A)$ 的基底。因此

$$\dim C(A)=r=\dim R(A)=\operatorname{rank}(A).$$

证明

先保留系数再检查主元坐标

写成 $Q=HA$，其中 $H$ 可逆，并把 $Q$ 的列记为 $q_j$。对每个系数向量 $c\in\mathbb R^n$，

$$\sum_{j=1}^n c_jq_j=H\left(\sum_{j=1}^n c_ja_j\right).$$

左边为零当且仅当括号内的和为零：一个方向乘以 $H$，另一个方向乘以 $H^{-1}$。所以所有齐次列关系连同其准确系数，在两个方向都保持。只涉及选定列的关系，也可在其余位置补零系数来处理。

$Q$ 的主元列分别在不同主元行上有一个一，其余元素为零，因此线性无关。每个 $q_j$ 都是它们以 $Q_{1j},\ldots,Q_{rj}$ 为系数的组合，因为第 $r$ 行以下全为零。关系保持说明对应的原主元列能张成每个 $a_j$。若原主元列的一个组合为零，它对应到 $Q$ 主元列的零组合，迫使全部系数为零。这同时证明了列基底的生成性与无关性。

对于行基底，已知 $R(Q)=R(A)$。删去零行后，非零行的转置仍构成生成列表。若它们以 $d_1,\ldots,d_r$ 为系数的组合为零，检查第 $j_i$ 个坐标。RREF 的这个主元列只在第 $i$ 行为一，其他行全为零，因此该坐标就是 $d_i$。所有系数都为零，故列表线性无关。两个基底各有 $r$ 个向量，维数相等随之成立。若 $r=0$，矩阵为零，两个空间分别是所在空间的零子空间，基底均为空列表。

这说明为什么行化简为列基底提供位置，却为行基底直接提供向量。交换行列空间，还得到 $\operatorname{rank}(A^T)=\operatorname{rank}(A)$。对于 $m\times n$ 矩阵，主元占据互不相同的行与列，所以秩不超过 $\min(m,n)$。秩是一个数；这些数值相等并没有声称行空间与列空间作为集合相等。

维数相等不能确定空间相等

例题

同一个方阵的两个不同空间

考虑

$$D=\begin{bmatrix}1&0&0&1\\0&2&0&1\\0&0&3&1\\0&0&0&0\end{bmatrix}.$$

前三列线性无关，因为零组合的前三个坐标迫使全部系数为零。第四列等于第一列加第二列的一半，再加第三列的三分之一。因此 $C(D)=\{(a,b,c,0)^T:a,b,c\in\mathbb R\}$，维数为三。两个包含方向都明确：每列末坐标为零，而每个所列向量都能以 $a,b/2,c/3$ 为系数由前三列生成。

非零行的转置是 $(1,0,0,1)^T$、$(0,2,0,1)^T$、$(0,0,3,1)^T$。检查前三个坐标可知它们线性无关，其余行为零，所以它们构成 $R(D)$ 的基底。一般组合给出

$$R(D)=\{(a,b,c,a+b/2+c/3)^T:a,b,c\in\mathbb R\}.$$

所以 $(1,0,0,1)^T\in R(D)$，却不属于 $C(D)$。反过来，$(1,0,0,0)^T\in C(D)$，却不满足所写的行空间条件。两个空间都是同一 $\mathbb R^4$ 的子空间，维数都为三，仍然并不相等。把第二、三行分别乘以 $1/2$、$1/3$ 可得三个主元，与秩为三一致。

反例模式

行化简可以改变列空间

错误命题。 行等价矩阵具有相同的列空间。

取

$$A_0=\begin{bmatrix}1&0\\1&0\end{bmatrix},\qquad H=\begin{bmatrix}1&0\\-1&1\end{bmatrix},\qquad B_0=HA_0=\begin{bmatrix}1&0\\0&0\end{bmatrix}.$$

所做的运算是从第二行减去第一行，加回第一行就是逆运算。直接可得 $C(A_0)=\operatorname{Span}\{(1,1)^T\}$，而 $C(B_0)=\operatorname{Span}\{(1,0)^T\}$。非零向量 $(1,0)^T$ 不可能等于 $t(1,1)^T$：首坐标要求 $t=1$，第二坐标却要求 $t=0$。所以两个空间不同。但两者的行空间都等于 $\operatorname{Span}\{(1,0)^T\}$，秩都为一。第二列的冗余关系也保留：两矩阵的第二列均为零。

修正命题。 行变换保留行空间、秩以及列关系的系数。实际列空间变为 $C(HA)=\{Hy:y\in C(A)\}$；原列空间的基底必须从主元位置对应的原列中选取。本例的 RREF 主元列甚至不属于原列空间，自然不能成为它的基底。

判断向量是否属于列空间时也要处理右端

例题

用一个方程描述列空间

设

$$M=\begin{bmatrix}3&2&1&-4\\-1&1&-2&3\\2&-4&6&-8\end{bmatrix}.$$

第一行的两倍加第二行的十六倍，再加第三行的五倍，得到零行。因此每个输出 $b=Mx$ 都满足 $2b_1+16b_2+5b_3=0$。这证明了所提列空间描述的一个包含方向；每个输出都满足的条件，尚不足以保证它描述全部输出。

反过来，假设这个方程成立。只使用前两列，系数取为

$$s=\frac{b_1-2b_2}{5},\qquad t=\frac{b_1+3b_2}{5}.$$

它们的组合为 $(3s+2t,-s+t,2s-4t)^T$。前两个坐标是 $b_1,b_2$，最后一个由假设等于 $(-2b_1-16b_2)/5=b_3$。因此 $M(s,t,0,0)^T=b$，证明反向包含。于是

$$C(M)=\{b\in\mathbb R^3:2b_1+16b_2+5b_3=0\} =N\!\left(\begin{bmatrix}2&16&5\end{bmatrix}\right).$$

对于 $v=(18,-6,12)^T$，条件给出 $36-96+60=0$；事实上它是第一列的六倍。对于 $w=(2,1,-3)^T$，条件给出 $4+16-15=5\ne0$，所以 $Mx=w$ 不相容。一个向量由明确系数选择验证，另一个由必要的输出方程排除。

更一般地，若 $Q=HA$ 是含 $r$ 个主元的 RREF，则 $Ax=b$ 等价于 $Qx=Hb$。零行要求 $Hb$ 的最后 $m-r$ 个坐标为零；主元方程不对右端再增加条件。当 $r\lt m$ 时，取 $H$ 的这些末行为矩阵 $L$，便得到 $C(A)=N(L)$。这是用方程而非生成向量描述列空间。若行秩满，没有这类限制，便有 $C(A)=\mathbb R^m$。右端必须接受与 $A$ 相同的行变换；只化简 $A$ 而保留 $b$ 不动，会检验另一个方程组。

常见错误

常见错误

不要把 RREF 的主元列直接当成列空间的基底

行化简通常会改变列空间。所以虽然主元位置是从 RREF 里读出来的，但 $C(A)$ 真正的基底向量必须取自原矩阵中对应的列。

另一个常见错误，是因为列空间和行空间维数相同，就说它们是同一个子空间。 维数相同只表示独立方向的个数相同，不表示两个子空间本身相等。

快速检查

思考检查

如果 $A$ 是一个 $4 \times 3$ 矩阵，$C(A)$ 和 $R(A)$ 分别位于哪个空间？

分别数一数一列有多少个分量，一行有多少个分量。

解答 · 答案

$C(A)$ 是 $R^4$ 的子空间，因为每一列有 4 个分量。 $R(A)$ 是 $R^3$ 的子空间，因为每一行有 3 个分量。

思考检查

如果某个矩阵的 RREF 有三个主元列，它的秩是多少？

回忆秩是怎样从 RREF 读出来的。

解答 · 答案

秩是 $3$。

练习

思考检查

设 $A = \begin{bmatrix} 1 & 0 & 1 \\ 0 & 1 & 1 \\ 1 & 1 & 2 \end{bmatrix}$。求秩，并求列空间的一组基底。

先做行化简，找出主元列，再回到原矩阵取对应的列。

解答 · 引导解答

从第三行中减去第一、二行，得到 RREF

$$\begin{bmatrix}1&0&1\\0&1&1\\0&0&0\end{bmatrix}.$$

恰有两个主元，位于第一、二列，所以秩为二。前两行的主元证明下界，第三行全零则证明上界。

因此列空间的一组基底是

$$\left\{ \begin{bmatrix} 1 \\ 0 \\ 1 \end{bmatrix}, \begin{bmatrix} 0 \\ 1 \\ 1 \end{bmatrix} \right\}.$$

第三列是前两列之和，所以它没有提供新的方向。

先读这些章节

这一节特别依赖 2.3 高斯消元与 RREF、 3.3 转置、对称矩阵与反对称矩阵 和 6.5 基与维数。