矩阵有两个角色:它是可进行算术运算的数据数组;选择基后,它也表示线性变换。理解后者有助解释乘法公式为何如此、秩为何衡量信息,以及坐标改变为何不改变变换本身。
1 表示复合的算术
对 A ∈ R m × n A\in\mathbb R^{m\times n} A ∈ R m × n 和 B ∈ R n × p B\in\mathbb R^{n\times p} B ∈ R n × p ,定义 ( A B ) i j = ∑ k = 1 n a i k b k j (AB)_{ij}=\sum_{k=1}^n a_{ik}b_{kj} ( A B ) ij = ∑ k = 1 n a ik b kj 。重排有限和得到 ( A B ) x = A ( B x ) (AB)x=A(Bx) ( A B ) x = A ( B x ) 。矩阵乘法满足结合律和分配律,但一般不满足交换律。单位矩阵 I n I_n I n 保持向量不变。转置 A T A^T A T 交换行列指标,并满足 ( A B ) T = B T A T (AB)^T=B^TA^T ( A B ) T = B T A T 。
例如,A = ( 1 1 0 1 ) A=\begin{pmatrix}1&1\\0&1\end{pmatrix} A = ( 1 0 1 1 ) 、B = ( 2 0 0 1 ) B=\begin{pmatrix}2&0\\0&1\end{pmatrix} B = ( 2 0 0 1 ) 给出 A B = ( 2 1 0 1 ) AB=\begin{pmatrix}2&1\\0&1\end{pmatrix} A B = ( 2 0 1 1 ) ,但 B A = ( 2 2 0 1 ) BA=\begin{pmatrix}2&2\\0&1\end{pmatrix} B A = ( 2 0 2 1 ) 。先缩放再剪切与先剪切再缩放不同。
高斯消元对 [ A ∣ b ] [A\mid b] [ A ∣ b ] 使用可逆行变换。主元列决定主元变量,其余变量是自由变量。若某行 [ 0 ⋯ 0 ∣ c ] [0\cdots0\mid c] [ 0 ⋯ 0 ∣ c ] 中 c ≠ 0 c\ne0 c = 0 ,则证明不相容。若无矛盾行,可选择自由变量,再回代得到主元变量。当左块化为 I I I ,对 [ A ∣ I ] [A\mid I] [ A ∣ I ] 使用相同变换可求 A − 1 A^{-1} A − 1 。
例。 对
A = ( 1 2 1 0 1 1 ) , b = ( 4 3 ) , A=\begin{pmatrix}1&2&1\\0&1&1\end{pmatrix},\qquad b=\binom43, A = ( 1 0 2 1 1 1 ) , b = ( 3 4 ) ,
方程给出 y = 3 − z y=3-z y = 3 − z 、x = − 2 + z x=-2+z x = − 2 + z 。因此所有解为 ( − 2 , 3 , 0 ) + t ( 1 , − 1 , 1 ) (-2,3,0)+t(1,-1,1) ( − 2 , 3 , 0 ) + t ( 1 , − 1 , 1 ) 。零空间方向衡量两个观测不能恢复的信息。
有限消元必停止,并保持解集
设 A ∈ R m × n A\in\mathbb R^{m\times n} A ∈ R m × n 、b ∈ R m b\in\mathbb R^m b ∈ R m ,其中 m , n m,n m , n 是有限正整数。允许的行变换为交换不同的两行、以非零标量乘一行,以及把一行的标量倍加到另一行。逆变换分别为同一交换、乘以倒数,以及减去该倍数。因此对整个增广阵施行变换恰好保持 A x = b Ax=b A x = b 的解集:新方程由旧方程推出,逆变换给出反向蕴含。每个行变换也等于左乘把同一变换施于单位矩阵所得的可逆初等矩阵。
从左到右扫描系数列,并记录下一未使用行。若当前列在未使用行中有非零元素,就将其所在行交换到下一位置,除以非零主元,再从其余各行减去适当倍数,清空该列其他元素,然后推进未使用行指标。若该列所有未使用位置都是零,就跳过该列。先前主元列始终是单位列:当前未使用行在这些列均为零,所以新主元行以及后续减法保留这些零与原主元。总共只有 n n n 次列扫描及至多 min ( m , n ) \min(m,n) min ( m , n ) 个主元,每次只作有限个行变换,故算法必停止。最后非零系数行的主元列依次递增,各主元上下均为零,其余系数行全零。这证明下面使用的简化阶梯形确实能得到,而非假设它最终出现。
解的分类与齐次自由度
令 r r r 为系数部分的主元数。若某个零系数行对应非零变换后右端,就出现不可能的方程 0 = c 0=c 0 = c ,因此无解。否则任意指定 n − r n-r n − r 个非主元变量的实数值。每个主元行都把其主元变量写成变换后右端减去自由变量的已知线性组合,其中没有其他主元变量。这些公式既构造解,也恢复每一个解。若 r = n r=n r = n ,解唯一;若 r < n r<n r < n ,改变自由变量就改变解向量,故有无穷多解。
对 A z = 0 Az=0 A z = 0 ,全部自由变量取零给出零解。若 r < n r<n r < n ,将一个自由变量设为一,其余设为零,再按主元公式求解,就构造出非零齐次解;若 r = n r=n r = n ,公式迫使所有齐次变量为零。对相容系统固定一个解 x p x_p x p ,两解相减表明每个解均为 x p + z x_p+z x p + z ,其中 A z = 0 Az=0 A z = 0 ;代入又证明反向包含。
当 A A A 为方阵且每列都有主元时,系数阶梯形为 I I I 。有限个初等矩阵之积 E E E 满足 E A = I EA=I E A = I 。因为 E E E 可逆,A = E − 1 A=E^{-1} A = E − 1 ,故也有 A E = I AE=I A E = I ,所以 E E E 是双侧逆。若缺少主元,上面构造的非零齐次解排除可逆性。这也证明可逆时,对 [ A ∣ I ] [A\mid I] [ A ∣ I ] 作相同行变换会得到 [ I ∣ A − 1 ] [I\mid A^{-1}] [ I ∣ A − 1 ] 。
2 向量空间、基与维数
实向量空间 的加法和数乘满足通常的分配、结合、单位元及逆元规则。例子包括 R n \mathbb R^n R n 、多项式空间 P d P_d P d 和矩阵空间。子空间包含零且对线性组合封闭。基是线性无关的生成列表,其长度为维数。{ ( x , y ) : x + y = 1 } \{(x,y):x+y=1\} {( x , y ) : x + y = 1 } 这样的点集不含零,所以不是子空间。
在 P 2 P_2 P 2 中,( 1 , t , t 2 ) (1,t,t^2) ( 1 , t , t 2 ) 是一个基;( 1 , 1 + t , t + t 2 ) (1,1+t,t+t^2) ( 1 , 1 + t , t + t 2 ) 也是:多项式 a + b t + c t 2 a+bt+ct^2 a + b t + c t 2 在该列表中的坐标为 ( a − b + c , b − c , c ) (a-b+c,b-c,c) ( a − b + c , b − c , c ) 。多项式本身不变,坐标却依赖基。
若映射 T : V → W T:V\to W T : V → W 满足 T ( a v + b w ) = a T ( v ) + b T ( w ) T(av+bw)=aT(v)+bT(w) T ( a v + b w ) = a T ( v ) + b T ( w ) ,它是线性的 。其核为 { v : T ( v ) = 0 } \{v:T(v)=0\} { v : T ( v ) = 0 } ,像为 { T ( v ) : v ∈ V } \{T(v):v\in V\} { T ( v ) : v ∈ V } ,二者都是子空间。核为零等价于单射,因为 T ( v ) = T ( w ) T(v)=T(w) T ( v ) = T ( w ) 当且仅当 v − w v-w v − w 属于核。
不预设计数结论的有限基存在与扩充
设实向量空间 V V V 已给定有限生成列表 t 1 , … , t N t_1,\ldots,t_N t 1 , … , t N 。先证明任何线性无关列表 u 1 , … , u k u_1,\ldots,u_k u 1 , … , u k 的长度不超过 N N N 。插入 j j j 个向量后,维持一个由 u 1 , … , u j u_1,\ldots,u_j u 1 , … , u j 与 N − j N-j N − j 个剩余旧向量组成的生成列表。将 u j + 1 u_{j+1} u j + 1 按此列表展开,至少一个剩余旧向量的系数非零;否则它在先前 u i u_i u i 的张成空间中,与无关性矛盾。解出这个旧向量,再以 u j + 1 u_{j+1} u j + 1 取代它。新列表仍张成同一空间,而且保留全部先前插入向量。若 k > N k>N k > N ,则 N N N 步后前 N N N 个向量已张成 V V V ,与 u N + 1 u_{N+1} u N + 1 的无关性矛盾。此即所需上界,也包括 N = 0 N=0 N = 0 。
每个子空间 W W W 都有有限基。从空的无关列表开始;若当前张成空间尚不是 W W W ,就在 W W W 中取一个不在该张成空间内的向量。若新向量在某关系中的系数非零,就能由旧向量表示它,矛盾,故新列表仍无关。已证上界允许至多添加 N N N 次,所以过程必停止于 W W W 的无关生成列表。若 W = { 0 } W=\{0\} W = { 0 } ,立即得到空基。改从 W W W 内任意给定无关列表开始,同样证明该列表可扩充为 W W W 的基;只需有界有限次选择。最后,若两组基的长度为 p , q p,q p , q ,分别把它们用作上界证明中的有限生成列表,得到 p ≤ q p\le q p ≤ q 与 q ≤ p q\le p q ≤ p 。故基的长度有良定义,称为维数。这些论证补足秩–零度定理所用的基存在、扩充与维数事实。
3 秩、零度与矩阵表示
设 V V V 是有限维实向量空间,T : V → W T:V\to W T : V → W 为线性映射。
映射 T : V → W T:V\to W T : V → W 若满足 T ( α v + β u ) = α T v + β T u T(\alpha v+\beta u)=\alpha Tv+\beta Tu T ( αv + β u ) = α T v + βT u ,则为线性。其核与像都是子空间。选取 ker T \ker T ker T 的基 k 1 , … , k r k_1,\ldots,k_r k 1 , … , k r ,并以 v 1 , … , v s v_1,\ldots,v_s v 1 , … , v s 扩充为基,则 T v 1 , … , T v s Tv_1,\ldots,Tv_s T v 1 , … , T v s 构成 im T \operatorname{im}T im T 的基:展开任意输入可证明张成性;若这些像线性相关,相应输入组合落入核,而扩充基的线性无关性迫使所有系数为零。因此
dim V = dim ker T + dim im T . \dim V=\dim\ker T+\dim\operatorname{im}T. dim V = dim ker T + dim im T .
这就是秩–零度定理 。有限维且维数相等时,单射与满射等价;无限维空间中该等价可能失效。
对微分 D : P 2 → P 1 D:P_2\to P_1 D : P 2 → P 1 ,核为常数多项式,维数为 1;像是整个 P 1 P_1 P 1 ,维数为 2。相对基 ( 1 , t , t 2 ) (1,t,t^2) ( 1 , t , t 2 ) 和 ( 1 , t ) (1,t) ( 1 , t ) ,矩阵为
[ D ] = ( 0 1 0 0 0 2 ) . [D]=\begin{pmatrix}0&1&0\\0&0&2\end{pmatrix}. [ D ] = ( 0 0 1 0 0 2 ) .
每一列都是一个定义域基元素的像的坐标向量。定义矩阵表示的是这一构造,而不是记忆一个数组。
若 P P P 的列是新基向量在旧坐标下的表示,则 [ v ] o l d = P [ v ] n e w [v]_{\rm old}=P[v]_{\rm new} [ v ] old = P [ v ] new 。对旧矩阵为 A A A 的算子 T : V → V T:V\to V T : V → V ,新矩阵是 P − 1 A P P^{-1}AP P − 1 A P 。次序错误会混淆输入坐标变换与应用变换本身。
4 分层练习
E1 基础。 解 x + y + z = 2 x+y+z=2 x + y + z = 2 、2 x + y + 3 z = 5 2x+y+3z=5 2 x + y + 3 z = 5 。给出特解及零空间的一组基。
E2 表示。 对 T : P 2 → P 2 T:P_2\to P_2 T : P 2 → P 2 ,定义 T ( p ) = p + p ′ T(p)=p+p' T ( p ) = p + p ′ 。求它在 ( 1 , t , t 2 ) (1,t,t^2) ( 1 , t , t 2 ) 下的矩阵。它可逆吗?
E3 坐标。 设 A = diag ( 2 , 3 ) A=\operatorname{diag}(2,3) A = diag ( 2 , 3 ) ,新基为 u = ( 1 , 1 ) u=(1,1) u = ( 1 , 1 ) 、v = ( 1 , − 1 ) v=(1,-1) v = ( 1 , − 1 ) 。计算 P − 1 A P P^{-1}AP P − 1 A P 并直接检验第一列。
E4 证明。 若 V V V 和 W W W 有相同有限维数,证明线性映射 T : V → W T:V\to W T : V → W 单射当且仅当满射。
5 详解
S1. 第二式减第一式的两倍得 − y + z = 1 -y+z=1 − y + z = 1 ,故 y = z − 1 y=z-1 y = z − 1 、x = 3 − 2 z x=3-2z x = 3 − 2 z 。全部解为 ( 3 , − 1 , 0 ) + t ( − 2 , 1 , 1 ) (3,-1,0)+t(-2,1,1) ( 3 , − 1 , 0 ) + t ( − 2 , 1 , 1 ) ,零空间由 ( − 2 , 1 , 1 ) (-2,1,1) ( − 2 , 1 , 1 ) 张成。
S2. 各像为 1 1 1 、1 + t 1+t 1 + t 、2 t + t 2 2t+t^2 2 t + t 2 ,因此 [ T ] = ( 1 1 0 0 1 2 0 0 1 ) [T]=\begin{pmatrix}1&1&0\\0&1&2\\0&0&1\end{pmatrix} [ T ] = 1 0 0 1 1 0 0 2 1 。回代对每个输出都唯一可解,所以它可逆。其核为零,也可由秩–零度证明。
S3. P = ( 1 1 1 − 1 ) P=\begin{pmatrix}1&1\\1&-1\end{pmatrix} P = ( 1 1 1 − 1 ) 、P − 1 = P / 2 P^{-1}=P/2 P − 1 = P /2 ,得到 ( 5 / 2 − 1 / 2 − 1 / 2 5 / 2 ) \begin{pmatrix}5/2&-1/2\\-1/2&5/2\end{pmatrix} ( 5/2 − 1/2 − 1/2 5/2 ) 。直接算得 T ( u ) = ( 2 , 3 ) = ( 5 / 2 ) u − ( 1 / 2 ) v T(u)=(2,3)=(5/2)u-(1/2)v T ( u ) = ( 2 , 3 ) = ( 5/2 ) u − ( 1/2 ) v ,即第一列。
S4. 设共同维数为 n n n ,秩–零度给出 dim im T = n − dim ker T \dim\operatorname{im}T=n-\dim\ker T dim im T = n − dim ker T 。核为零等价于像的维数为 n n n ;W W W 的 n n n 维子空间就是整个 W W W 。有限维与维数相等的假设不可缺少。
总结
矩阵乘法表示复合;基将抽象向量与映射转成坐标。核衡量丢失的信息,像衡量可能的输出,秩–零度平衡二者。相似矩阵是在不同基下表示同一算子。