有限實矩陣乘法法則的證明
設 m , n , p , q m,n,p,q m , n , p , q A ∈ R m × n A\in\mathbb R^{m\times n} A ∈ R m × n B ∈ R n × p B\in\mathbb R^{n\times p} B ∈ R n × p C ∈ R p × q C\in\mathbb R^{p\times q} C ∈ R p × q ( i , ℓ ) (i,\ell) ( i , ℓ )
( ( A B ) C ) i ℓ = ∑ k = 1 p ( ∑ j = 1 n a i j b j k ) c k ℓ = ∑ j = 1 n a i j ( ∑ k = 1 p b j k c k ℓ ) = ( A ( B C ) ) i ℓ . \begin{aligned}
((AB)C)_{i\ell}
&=\sum_{k=1}^{p}\left(\sum_{j=1}^{n}a_{ij}b_{jk}\right)c_{k\ell}\\
&=\sum_{j=1}^{n}a_{ij}\left(\sum_{k=1}^{p}b_{jk}c_{k\ell}\right)
=(A(BC))_{i\ell}.
\end{aligned} (( A B ) C ) i ℓ = k = 1 ∑ p ( j = 1 ∑ n a ij b jk ) c k ℓ = j = 1 ∑ n a ij ( k = 1 ∑ p b jk c k ℓ ) = ( A ( BC ) ) i ℓ . 中間等號只交換兩個有限和的求和次序，並使用實數分配律。兩邊同為 m × q m\times q m × q
對 D ∈ R n × p D\in\mathbb R^{n\times p} D ∈ R n × p
[ A ( B + D ) ] i k = ∑ j = 1 n a i j ( b j k + d j k ) = ( A B ) i k + ( A D ) i k . [A(B+D)]_{ik}=\sum_{j=1}^{n}a_{ij}(b_{jk}+d_{jk})
=(AB)_{ik}+(AD)_{ik}. [ A ( B + D ) ] ik = j = 1 ∑ n a ij ( b jk + d jk ) = ( A B ) ik + ( A D ) ik . 對 E ∈ R m × n E\in\mathbb R^{m\times n} E ∈ R m × n
[ ( A + E ) B ] i k = ∑ j = 1 n ( a i j + e i j ) b j k = ( A B ) i k + ( E B ) i k . [(A+E)B]_{ik}=\sum_{j=1}^{n}(a_{ij}+e_{ij})b_{jk}
=(AB)_{ik}+(EB)_{ik}. [( A + E ) B ] ik = j = 1 ∑ n ( a ij + e ij ) b jk = ( A B ) ik + ( EB ) ik . 所以在所寫的相容大小下，兩條分配律均成立。對任意實純量 c c c
[ ( c A ) B ] i k = ∑ j ( c a i j ) b j k = c ∑ j a i j b j k = ∑ j a i j ( c b j k ) = [ A ( c B ) ] i k , [(cA)B]_{ik}=\sum_j(ca_{ij})b_{jk}
=c\sum_j a_{ij}b_{jk}
=\sum_j a_{ij}(cb_{jk})=[A(cB)]_{ik}, [( c A ) B ] ik = j ∑ ( c a ij ) b jk = c j ∑ a ij b jk = j ∑ a ij ( c b jk ) = [ A ( c B ) ] ik , 逐項相等便證明 ( c A ) B = c ( A B ) = A ( c B ) (cA)B=c(AB)=A(cB) ( c A ) B = c ( A B ) = A ( c B ) x , y ∈ R n x,y\in\mathbb R^n x , y ∈ R n s , t s,t s , t
[ A ( s x + t y ) ] i = ∑ j a i j ( s x j + t y j ) = s ( A x ) i + t ( A y ) i . [A(sx+ty)]_i=\sum_j a_{ij}(sx_j+ty_j)
=s(Ax)_i+t(Ay)_i. [ A ( s x + t y ) ] i = j ∑ a ij ( s x j + t y j ) = s ( A x ) i + t ( A y ) i . 這證明了比較同一線性系統的解時所用的矩陣乘向量線性性質。所有恆等式都只針對大小相容的有限實矩陣，不聲稱任意矩陣因子可交換或可消去。
由單位矩陣建立初等矩陣
假設一個初等 行變換 ρ \rho ρ p p p I p I_p I p I p I_p I p E ρ E_\rho E ρ c c c 1 / c 1/c 1/ c
定義
初等行變換矩陣 與 p p p ρ \rho ρ 初等行變換矩陣 ，就是把
ρ \rho ρ I p I_p I p p × p p \times p p × p
這種矩陣亦簡稱初等矩陣 ；較長的名稱可以明確指出它與指定行變換的關係。
換句話說，
E ρ = ρ ( I p ) . E_\rho = \rho(I_p). E ρ = ρ ( I p ) . 這個定義有用，是因為以下定理。
定理
初等行變換等同於左乘矩陣 設 A A A p p p ρ \rho ρ ρ ( A ) \rho(A) ρ ( A ) A A A
ρ ( A ) = E ρ A . \rho(A) = E_\rho A. ρ ( A ) = E ρ A . 所以，對 A A A I p I_p I p A A A
這裏必須是左乘。初等行變換改變的是行，會把新行寫成舊行的線性組合；左乘正是把
A A A
維數亦說明了同一點。若 A A A p × n p \times n p × n E ρ E_\rho E ρ p × p p \times p p × p E ρ A E_\rho A E ρ A p × n p \times n p × n A A A n n n n × n n \times n n × n
為甚麼左乘會執行指定行變換
證明
對三類初等行變換逐行驗證 把任意 p × n p \times n p × n A A A a 1 , a 2 , … , a p a_1,a_2,\ldots,a_p a 1 , a 2 , … , a p e k T e_k^{\mathsf T} e k T I p I_p I p k k k
e k T A = a k e_k^{\mathsf T}A=a_k e k T A = a k 表示左乘矩陣的一行會選取 A A A
對 R i ↔ R j R_i\leftrightarrow R_j R i ↔ R j E ρ E_\rho E ρ i i i e j T e_j^{\mathsf T} e j T j j j e i T e_i^{\mathsf T} e i T k k k e k T e_k^{\mathsf T} e k T E ρ A E_\rho A E ρ A A A A i , j i,j i , j
對 R i ← c R i R_i\leftarrow cR_i R i ← c R i c ≠ 0 c\ne0 c = 0 E ρ E_\rho E ρ i i i c e i T c e_i^{\mathsf T} c e i T i i i
( c e i T ) A = c a i , (c e_i^{\mathsf T})A=c a_i, ( c e i T ) A = c a i , 而每個 k ≠ i k\ne i k = i k k k a k a_k a k
對 R j ← R j + c R i R_j\leftarrow R_j+cR_i R j ← R j + c R i i ≠ j i\ne j i = j E ρ E_\rho E ρ j j j e j T + c e i T e_j^{\mathsf T}+c e_i^{\mathsf T} e j T + c e i T j j j
( e j T + c e i T ) A = a j + c a i , (e_j^{\mathsf T}+c e_i^{\mathsf T})A=a_j+c a_i, ( e j T + c e i T ) A = a j + c a i , 正是指定的行加法。
三類情形窮盡了初等行變換，因此對每個相容矩陣 A A A E ρ A = ρ ( A ) E_\rho A=\rho(A) E ρ A = ρ ( A ) ρ \rho ρ
作用於增廣矩陣
假設 A x = b Ax=b A x = b [ A ∣ b ] [A\mid b] [ A ∣ b ]
E ρ [ A ∣ b ] = [ E ρ A ∣ E ρ b ] . E_\rho[A\mid b]=[E_\rho A\mid E_\rho b]. E ρ [ A ∣ b ] = [ E ρ A ∣ E ρ b ] . 因此，係數和右端常數會接受完全相同的行組合。向量 x x x A x = b Ax=b A x = b E ρ A x = E ρ b E_\rho Ax=E_\rho b E ρ A x = E ρ b E ρ E_\rho E ρ
若只改 A A A b b b b b b
一串初等行變換就是一個矩陣乘積
真正的用途不只是表示一個初等步驟，而是把整串初等行變換寫成一個矩陣乘積。
定理
一串初等行變換的乘積表示 假設
A 1 → ρ 1 A 2 → ρ 2 A 3 → ρ 3 ⋯ → ρ k A k + 1 . A_1 \xrightarrow{\rho_1} A_2 \xrightarrow{\rho_2} A_3
\xrightarrow{\rho_3} \cdots \xrightarrow{\rho_k} A_{k+1}. A 1 ρ 1 A 2 ρ 2 A 3 ρ 3 ⋯ ρ k A k + 1 . 則
A k + 1 = E ρ k E ρ k − 1 ⋯ E ρ 2 E ρ 1 A 1 . A_{k+1}
= E_{\rho_k}E_{\rho_{k-1}}\cdots E_{\rho_2}E_{\rho_1}A_1. A k + 1 = E ρ k E ρ k − 1 ⋯ E ρ 2 E ρ 1 A 1 . 這裏每個 ρ j \rho_j ρ j
這個公式中的次序很重要。第一個行變換最靠近 A 1 A_1 A 1
A 2 = E ρ 1 A 1 , A 3 = E ρ 2 A 2 = E ρ 2 E ρ 1 A 1 . A_2 = E_{\rho_1}A_1,
\qquad
A_3 = E_{\rho_2}A_2 = E_{\rho_2}E_{\rho_1}A_1. A 2 = E ρ 1 A 1 , A 3 = E ρ 2 A 2 = E ρ 2 E ρ 1 A 1 . 例題
合併兩個行變換 令
A = [ 1 0 1 0 2 1 1 0 0 ] . A =
\begin{bmatrix}
1 & 0 & 1\\
0 & 2 & 1\\
1 & 0 & 0
\end{bmatrix}. A = 1 0 1 0 2 0 1 1 0 . 依次做
ρ 1 : R 2 ← R 2 + R 1 , ρ 2 : R 1 ← R 1 + 2 R 2 . \rho_1:\ R_2 \leftarrow R_2 + R_1,
\qquad
\rho_2:\ R_1 \leftarrow R_1 + 2R_2. ρ 1 : R 2 ← R 2 + R 1 , ρ 2 : R 1 ← R 1 + 2 R 2 . 對應的行變換矩陣是
E ρ 1 = [ 1 0 0 1 1 0 0 0 1 ] , E ρ 2 = [ 1 2 0 0 1 0 0 0 1 ] . E_{\rho_1} =
\begin{bmatrix}
1 & 0 & 0\\
1 & 1 & 0\\
0 & 0 & 1
\end{bmatrix},
\qquad
E_{\rho_2} =
\begin{bmatrix}
1 & 2 & 0\\
0 & 1 & 0\\
0 & 0 & 1
\end{bmatrix}. E ρ 1 = 1 1 0 0 1 0 0 0 1 , E ρ 2 = 1 0 0 2 1 0 0 0 1 . 兩個操作完成後，結果就是
E ρ 2 E ρ 1 A = [ 3 2 0 1 1 0 0 0 1 ] [ 1 0 1 0 2 1 1 0 0 ] = [ 3 4 5 1 2 2 1 0 0 ] . E_{\rho_2}E_{\rho_1}A
=
\begin{bmatrix}
3&2&0\\
1&1&0\\
0&0&1
\end{bmatrix}
\begin{bmatrix}
1&0&1\\
0&2&1\\
1&0&0
\end{bmatrix}
=
\begin{bmatrix}
3&4&5\\
1&2&2\\
1&0&0
\end{bmatrix}. E ρ 2 E ρ 1 A = 3 1 0 2 1 0 0 0 1 1 0 1 0 2 0 1 1 0 = 3 1 1 4 2 0 5 2 0 . 若不想直接相乘 E ρ 2 E ρ 1 E_{\rho_2}E_{\rho_1} E ρ 2 E ρ 1 I 3 I_3 I 3 2 2 2
反向行變換與逆矩陣
每個初等行變換都有反向操作：
R j ← R j + c R i R_j \leftarrow R_j + cR_i R j ← R j + c R i R j ← R j − c R i R_j \leftarrow R_j - cR_i R j ← R j − c R i R i ← c R i R_i \leftarrow cR_i R i ← c R i c ≠ 0 c \ne 0 c = 0 R i ← ( 1 / c ) R i R_i \leftarrow (1/c)R_i R i ← ( 1/ c ) R i 交換兩行的反向操作仍然是同一次交換。
這給出一個精確的矩陣敘述。
定理
初等行變換矩陣都是可逆矩陣 每個初等行變換矩陣都是可逆的。它的逆矩陣，就是反向初等行變換所對應的
初等行變換矩陣。
證明
為甚麼反向矩陣是雙側逆矩陣 設 E ρ E_\rho E ρ ρ \rho ρ E ρ − 1 E_{\rho^{-1}} E ρ − 1 p p p X X X ρ \rho ρ X X X
E ρ − 1 E ρ X = X . E_{\rho^{-1}}E_\rho X=X. E ρ − 1 E ρ X = X . 這個等式對每個這樣的 X X X X = I p X=I_p X = I p E ρ − 1 E ρ = I p E_{\rho^{-1}}E_\rho=I_p E ρ − 1 E ρ = I p ρ \rho ρ E ρ E ρ − 1 = I p E_\rho E_{\rho^{-1}}=I_p E ρ E ρ − 1 = I p
E ρ − 1 = E ρ − 1 . E_\rho^{-1}=E_{\rho^{-1}}. E ρ − 1 = E ρ − 1 . 具體來說，交換兩行的逆仍是同一次交換；乘以 c ≠ 0 c\ne0 c = 0 1 / c 1/c 1/ c i i i c c c j j j − c -c − c i i i
例如，若
E = [ 1 0 0 3 1 0 0 0 1 ] E =
\begin{bmatrix}
1 & 0 & 0\\
3 & 1 & 0\\
0 & 0 & 1
\end{bmatrix} E = 1 3 0 0 1 0 0 0 1 表示 R 2 ← R 2 + 3 R 1 R_2 \leftarrow R_2 + 3R_1 R 2 ← R 2 + 3 R 1
E − 1 = [ 1 0 0 − 3 1 0 0 0 1 ] E^{-1} =
\begin{bmatrix}
1 & 0 & 0\\
-3 & 1 & 0\\
0 & 0 & 1
\end{bmatrix} E − 1 = 1 − 3 0 0 1 0 0 0 1 表示 R 2 ← R 2 − 3 R 1 R_2 \leftarrow R_2 - 3R_1 R 2 ← R 2 − 3 R 1
這就是初等行變換可逆的代數原因，也解釋了為甚麼行化簡和可逆矩陣有密切關係。
證明
先撤銷最後一步操作 設 E 1 , … , E k E_1,\ldots,E_k E 1 , … , E k p p p J = E k ⋯ E 1 J=E_k\cdots E_1 J = E k ⋯ E 1 E j − 1 E_j^{-1} E j − 1 E k E_k E k E k − 1 , … , E 1 E_{k-1},\ldots,E_1 E k − 1 , … , E 1
K = E 1 − 1 E 2 − 1 ⋯ E k − 1 . K=E_1^{-1}E_2^{-1}\cdots E_k^{-1}. K = E 1 − 1 E 2 − 1 ⋯ E k − 1 . 這裏必須區分兩種次序：反向操作的時間順序從 E k − 1 E_k^{-1} E k − 1
K J = E 1 − 1 E 2 − 1 ( E 3 − 1 E 3 ) E 2 E 1 = E 1 − 1 ( E 2 − 1 E 2 ) E 1 = I p . KJ=E_1^{-1}E_2^{-1}(E_3^{-1}E_3)E_2E_1
=E_1^{-1}(E_2^{-1}E_2)E_1=I_p. K J = E 1 − 1 E 2 − 1 ( E 3 − 1 E 3 ) E 2 E 1 = E 1 − 1 ( E 2 − 1 E 2 ) E 1 = I p . 另一個乘積 J K JK J K E 1 E 1 − 1 E_1E_1^{-1} E 1 E 1 − 1 I p I_p I p
把這個讀法用於前面的兩步例子：合併矩陣是 E ρ 2 E ρ 1 E_{\rho_2}E_{\rho_1} E ρ 2 E ρ 1 E ρ 1 − 1 E ρ 2 − 1 E_{\rho_1}^{-1}E_{\rho_2}^{-1} E ρ 1 − 1 E ρ 2 − 1 [ 1 0 1 ] [1\ 0\ 1] [ 1 0 1 ] [ 0 2 1 ] [0\ 2\ 1] [ 0 2 1 ]
有限消元必停止，並保持解集
設 A ∈ R m × n A\in\mathbb R^{m\times n} A ∈ R m × n b ∈ R m b\in\mathbb R^m b ∈ R m m , n m,n m , n A x = b Ax=b A x = b
從左到右掃描係數欄，並記錄下一未使用行。若當前欄在未使用行中有非零元素，就將其所在行交換到下一位置，除以非零主元，再從其餘各行減去適當倍數，清空該欄其他元素，然後推進未使用行指標。若該欄所有未使用位置都是零，就跳過該欄。先前主元欄始終是單位欄：當前未使用行在這些欄均為零，所以新主元行以及後續減法保留這些零與原主元。總共只有 n n n min ( m , n ) \min(m,n) min ( m , n )
解的分類與齊次自由度
令 r r r 0 = c 0=c 0 = c n − r n-r n − r r = n r=n r = n r < n r<n r < n
對 A z = 0 Az=0 A z = 0 r < n r<n r < n r = n r=n r = n x p x_p x p x p + z x_p+z x p + z A z = 0 Az=0 A z = 0
當 A A A I I I E E E E A = I EA=I E A = I E E E A = E − 1 A=E^{-1} A = E − 1 A E = I AE=I A E = I E E E [ A ∣ I ] [A\mid I] [ A ∣ I ] [ I ∣ A − 1 ] [I\mid A^{-1}] [ I ∣ A − 1 ]
不預設計數結論的有限基存在與擴充
設實向量空間 V V V t 1 , … , t N t_1,\ldots,t_N t 1 , … , t N u 1 , … , u k u_1,\ldots,u_k u 1 , … , u k N N N j j j u 1 , … , u j u_1,\ldots,u_j u 1 , … , u j N − j N-j N − j u j + 1 u_{j+1} u j + 1 u i u_i u i u j + 1 u_{j+1} u j + 1 k > N k>N k > N N N N N N N V V V u N + 1 u_{N+1} u N + 1 N = 0 N=0 N = 0
每個子空間 W W W W W W W W W N N N W W W W = { 0 } W=\{0\} W = { 0 } W W W W W W p , q p,q p , q p ≤ q p\le q p ≤ q q ≤ p q\le p q ≤ p
本節是可選的證明附錄，矩陣元素取實數。論證只使用域運算和可逆行變換，因此也適用於任意域。它要建立的是結構性結論，並不是另給一套消元算法。
高斯消元看起來是一套算法，但仍有一個重要的理論問題需要處理：
如果兩個人用不同合法路徑化簡同一個矩陣，為甚麼最後得到的 RREF 必須相同？
存在性只說明至少可以到達某個 RREF。唯一性則說明可能的 RREF 只有一個。正
因為有這個唯一性，我們才可以說一個矩陣的 唯一的 RREF ，也才可以不依賴某
次計算路徑去定義 秩 。
閱讀前準備
本附錄會使用三個早前已建立的事實。
行等價可以寫成左乘某個可逆矩陣。
行等價會保留對應欄之間的線性關係。
在 RREF 中，主元欄與自由欄有很固定的形狀。
證明比一次行化簡計算長，但想法很清楚：由左至右比較兩個可能的 RREF。先逼
出同一批主元欄，再用自由欄與主元欄之間的線性關係逼出所有自由欄。
定理
定理
RREF 的唯一性 設 A A A B B B C C C B B B A A A C C C A A A
B = C . B = C. B = C . 由於行等價有傳遞性，只要證明以下較直接的形式便足夠。
定理
等價表述 若 B B B C C C B B B C C C B = C B=C B = C
請留意「最簡」二字。普通行階梯形不唯一；同一個矩陣可以有許多不同 REF，但
只有一個 RREF。
行等價會保留欄之間的線性關係
把兩個行等價的 p × q p \times q p × q
B = [ b 1 b 2 ⋯ b q ] , C = [ c 1 c 2 ⋯ c q ] . B=[b_1\ b_2\ \cdots\ b_q],
\qquad
C=[c_1\ c_2\ \cdots\ c_q]. B = [ b 1 b 2 ⋯ b q ] , C = [ c 1 c 2 ⋯ c q ] . 若 B B B C C C p × p p \times p p × p G G G
B = G C . B = GC. B = GC . 因此對每個欄指標 j j j b j = G c j b_j = Gc_j b j = G c j
定理
欄關係的保留 假設
c j = α 1 c k 1 + α 2 c k 2 + ⋯ + α n c k n . c_j=\alpha_1c_{k_1}+\alpha_2c_{k_2}+\cdots+\alpha_nc_{k_n}. c j = α 1 c k 1 + α 2 c k 2 + ⋯ + α n c k n . 則
b j = α 1 b k 1 + α 2 b k 2 + ⋯ + α n b k n . b_j=\alpha_1b_{k_1}+\alpha_2b_{k_2}+\cdots+\alpha_nb_{k_n}. b j = α 1 b k 1 + α 2 b k 2 + ⋯ + α n b k n . 反過來，任何對應 b b b c c c
反方向要用 G − 1 G^{-1} G − 1 G G G
更明確地說，由分配律，
G ( ∑ i = 1 n α i c k i ) = ∑ i = 1 n α i G c k i . G\left(\sum_{i=1}^n\alpha_i c_{k_i}\right)
=\sum_{i=1}^n\alpha_i Gc_{k_i}. G ( i = 1 ∑ n α i c k i ) = i = 1 ∑ n α i G c k i . 欄向量通常會改變，係數卻保持不變。再作用 G − 1 G^{-1} G − 1
RREF 的欄長甚麼樣子
設 C C C
d 1 < d 2 < ⋯ < d r . d_1\lt d_2\lt \cdots\lt d_r. d 1 < d 2 < ⋯ < d r . 那麼這些主元欄具有標準基向量的形狀：
c d 1 = e 1 , c d 2 = e 2 , … , c d r = e r , c_{d_1}=e_1,\quad c_{d_2}=e_2,\quad \ldots,\quad c_{d_r}=e_r, c d 1 = e 1 , c d 2 = e 2 , … , c d r = e r , 其中向量長度由 C C C
自由欄則由其左方的主元欄控制。若 c j c_j c j c d 1 , … , c d h c_{d_1},\ldots,c_{d_h} c d 1 , … , c d h
c j = γ 1 j c d 1 + γ 2 j c d 2 + ⋯ + γ h j c d h . c_j=\gamma_{1j}c_{d_1}+\gamma_{2j}c_{d_2}+\cdots+\gamma_{hj}c_{d_h}. c j = γ 1 j c d 1 + γ 2 j c d 2 + ⋯ + γ hj c d h . 這些係數並不神秘：它們就是 c j c_j c j
此外，每個主元欄在出現時都真正帶來新方向：
c d k 不是其左方各欄的線性組合。 c_{d_k}
\quad\text{不是其左方各欄的線性組合。} c d k 不是其左方各欄的線性組合。 這三點就是唯一性證明的核心。
為甚麼只需要較早的主元？若某行的主元在第 j j j j j j k k k k k k e k e_k e k 1 1 1
對主元數目作歸納
為避免循環論證，在本證明中，「一個 RREF 的秩」暫時只解作「該 RREF 的主元欄數目」。只有在唯一性證明完成後，我們才正式定義任意矩陣的秩。
證明
RREF 唯一性的完整證明 令 P ( r ) P(r) P ( r )
若 B B B C C C B B B C C C C C C r r r B = C B=C B = C
我們證明所有 r ≥ 0 r\ge 0 r ≥ 0 P ( r ) P(r) P ( r )
基本情況。 假設 C C C C C C C C C B B B C C C G G G B = G C B=GC B = GC B = G 0 = 0 B=G0=0 B = G 0 = 0 B = C B=C B = C
歸納步驟。 假設 P ( s ) P(s) P ( s ) C C C s + 1 s+1 s + 1
d 1 < d 2 < ⋯ < d s < d s + 1 . d_1\lt d_2\lt \cdots\lt d_s\lt d_{s+1}. d 1 < d 2 < ⋯ < d s < d s + 1 . 在最後一個主元欄處把兩個矩陣切開：
B = [ B ♭ B ♮ ] , C = [ C ♭ C ♮ ] , B=[B^\flat\ B^\natural],
\qquad
C=[C^\flat\ C^\natural], B = [ B ♭ B ♮ ] , C = [ C ♭ C ♮ ] , 其中 B ♭ B^\flat B ♭ C ♭ C^\flat C ♭ d s + 1 d_{s+1} d s + 1
從 RREF 刪去末尾若干欄，所得仍是 RREF：保留了主元的行仍有領先的 1 1 1
把 C C C B B B B ♭ = G C ♭ B^\flat=GC^\flat B ♭ = G C ♭ p × p p\times p p × p C ♭ C^\flat C ♭ s s s
B ♭ = C ♭ . B^\flat=C^\flat. B ♭ = C ♭ . 若 d s + 1 = 1 d_{s+1}=1 d s + 1 = 1 s = 0 s=0 s = 0 s = 0 s=0 s = 0 d 1 > 1 d_1\gt1 d 1 > 1
所以兩個矩陣在第 d s + 1 d_{s+1} d s + 1
接着比較第 d s + 1 d_{s+1} d s + 1 C C C B B B d s + 1 d_{s+1} d s + 1
由於左方分塊已相同，B B B s s s
e 1 , e 2 , … , e s . e_1,e_2,\ldots,e_s. e 1 , e 2 , … , e s . 若這欄在第 s s s s s s e 1 , … , e s e_1,\ldots,e_s e 1 , … , e s s s s
取其中最上方的一行。由於左方分塊相同，這一行在更早各欄的元素全為零，所以它的主元就在第 d s + 1 d_{s+1} d s + 1 s + 1 s+1 s + 1 1 1 1
b d s + 1 = e s + 1 = c d s + 1 . b_{d_{s+1}}=e_{s+1}=c_{d_{s+1}}. b d s + 1 = e s + 1 = c d s + 1 . 最後比較 d s + 1 d_{s+1} d s + 1 d s + 1 d_{s+1} d s + 1 C C C 最後 一個主元位置，右方每一欄都是自由欄。令 ℓ > d s + 1 \ell\gt d_{s+1} ℓ > d s + 1
c ℓ = γ 1 ℓ c d 1 + ⋯ + γ s ℓ c d s + γ s + 1 , ℓ c d s + 1 . c_\ell
=
\gamma_{1\ell}c_{d_1}
+\cdots+
\gamma_{s\ell}c_{d_s}
+\gamma_{s+1,\ell}c_{d_{s+1}}. c ℓ = γ 1 ℓ c d 1 + ⋯ + γ s ℓ c d s + γ s + 1 , ℓ c d s + 1 . 行等價保留這個關係，所以
b ℓ = γ 1 ℓ b d 1 + ⋯ + γ s ℓ b d s + γ s + 1 , ℓ b d s + 1 . b_\ell
=
\gamma_{1\ell}b_{d_1}
+\cdots+
\gamma_{s\ell}b_{d_s}
+\gamma_{s+1,\ell}b_{d_{s+1}}. b ℓ = γ 1 ℓ b d 1 + ⋯ + γ s ℓ b d s + γ s + 1 , ℓ b d s + 1 . 但 B B B C C C b ℓ = c ℓ b_\ell=c_\ell b ℓ = c ℓ
每一欄都相同，因此 B = C B=C B = C P ( s + 1 ) P(s+1) P ( s + 1 )
證明透視
每一步歸納究竟可以使用甚麼 歸納參數只數 C C C B B B s s s C C C B B B
一個具體縮小版
例題
兩主元 RREF 中逐欄被確定的元素 上面的證明追蹤任意欄，可能看起來較抽象。以下用一個小 RREF 展示同一邏輯：
C = [ 1 2 0 − 1 0 0 1 3 0 0 0 0 ] . C=
\begin{bmatrix}
1 & 2 & 0 & -1\\
0 & 0 & 1 & 3\\
0 & 0 & 0 & 0
\end{bmatrix}. C = 1 0 0 2 0 0 0 1 0 − 1 3 0 . 主元欄是第 1 1 1 3 3 3
c 1 = e 1 , c 3 = e 2 . c_1=e_1,
\qquad
c_3=e_2. c 1 = e 1 , c 3 = e 2 . 自由欄滿足
c 2 = 2 c 1 , c 4 = − c 1 + 3 c 3 . c_2=2c_1,
\qquad
c_4=-c_1+3c_3. c 2 = 2 c 1 , c 4 = − c 1 + 3 c 3 . 現在假設 B B B C C C b 1 = e 1 b_1=e_1 b 1 = e 1 c 2 = 2 c 1 c_2=2c_1 c 2 = 2 c 1 b 2 = 2 b 1 = 2 e 1 b_2=2b_1=2e_1 b 2 = 2 b 1 = 2 e 1
第三欄不是第 1 1 1 2 2 2 B B B b 3 = e 2 b_3=e_2 b 3 = e 2 c 4 = − c 1 + 3 c 3 c_4=-c_1+3c_3 c 4 = − c 1 + 3 c 3
b 4 = − b 1 + 3 b 3 = − e 1 + 3 e 2 = c 4 . b_4=-b_1+3b_3=-e_1+3e_2=c_4. b 4 = − b 1 + 3 b 3 = − e 1 + 3 e 2 = c 4 . 因此 B = C B=C B = C
例題
前導零欄不會中斷證明 考慮
C = [ 0 1 − 2 0 3 0 0 0 1 4 0 0 0 0 0 ] . C=\begin{bmatrix}0&1&-2&0&3\\0&0&0&1&4\\0&0&0&0&0\end{bmatrix}. C = 0 0 0 1 0 0 − 2 0 0 0 1 0 3 4 0 . 設 B B B C C C c 1 = 0 c_1=0 c 1 = 0 b 1 = 0 b_1=0 b 1 = 0 c 2 c_2 c 2 b 2 b_2 b 2 e 1 e_1 e 1 c 3 = − 2 c 2 c_3=-2c_2 c 3 = − 2 c 2 b 3 = − 2 e 1 b_3=-2e_1 b 3 = − 2 e 1
c 4 = e 2 c_4=e_2 c 4 = e 2 b 4 b_4 b 4 e 2 e_2 e 2
c 5 = 3 c 2 + 4 c 4 ⟹ b 5 = 3 b 2 + 4 b 4 = c 5 . c_5=3c_2+4c_4\quad\Longrightarrow\quad b_5=3b_2+4b_4=c_5. c 5 = 3 c 2 + 4 c 4 ⟹ b 5 = 3 b 2 + 4 b 4 = c 5 . 這樣無須選擇消元路徑，就證明了 B = C B=C B = C 2 2 2
例題
奇異左乘矩陣可以丟失一個欄方向 取
C = I 2 , G = [ 1 0 0 0 ] , B = G C = [ 1 0 0 0 ] . C=I_2,\qquad G=\begin{bmatrix}1&0\\0&0\end{bmatrix},\qquad
B=GC=\begin{bmatrix}1&0\\0&0\end{bmatrix}. C = I 2 , G = [ 1 0 0 0 ] , B = GC = [ 1 0 0 0 ] . B , C B,C B , C G G G B = G C B=GC B = GC C C C b 2 = 0 b_2=0 b 2 = 0 ( 0 , 1 ) (0,1) ( 0 , 1 ) C C C B B B c 2 = 0 c_2=0 c 2 = 0
對奇異的 G G G 2 2 2 1 1 1
秩因此成為良定概念
定義
秩 對任意矩陣 A A A A A A 秩 ，記作 rank ( A ) \operatorname{rank}(A) rank ( A ) A A A
這個定義之所以合法，是因為唯一性已經被證明。若不同化簡路徑可以得到不同
RREF，那麼主元欄數目便可能依賴路徑。唯一性定理排除了這個可能。
所以秩不是某次計算的記錄，而是矩陣本身的不變量。
因此在計算上可以安全地使用以下流程：
把 A A A
標出該 RREF 的主元欄；
數主元欄數目，得到 rank ( A ) \operatorname{rank}(A) rank ( A )
如果題目要求列空間的一組基底，則要用主元位置回到原矩陣中相應的欄。若題目
只要求秩，RREF 本身已經足夠。這個分別很重要：行變換會保留欄關係，但通常
不保留實際的列空間。
常見錯誤
常見錯誤
不要說普通 REF 也唯一 唯一性定理談的是 RREF，不是任意行階梯形。在把主元標準化並清掉其上方項之
前，可以出現許多不同 REF。
常見錯誤
不要把秩定義成某次計算所得的數 可以用行化簡計算秩，但定義不是「我這次算到的主元數」。唯一性定理保證所有
合法 RREF 路徑都給出同一個主元數。
常見錯誤
不要忘記欄關係的角色 證明並不是說行變換保留實際列空間；一般而言它不保留。真正被使用的是對應欄
之間的線性關係模式。
快速檢查
思考檢查
若兩個 RREF 矩陣都與同一個矩陣行等價，可以推出甚麼？ 解答 · 答案 思考檢查
RREF 唯一性怎樣保證本節所用秩定義的良定性？ 解答 · 答案 秩定義為 RREF 中的主元欄數目。若 RREF 不唯一，不同化簡路徑可能給出不同
主元數。因為 RREF 唯一，主元數便不依賴路徑。
思考檢查
若與 A A A 1 1 1 3 3 3 5 5 5 rank ( A ) \operatorname{rank}(A) rank ( A ) 解答 · 答案 練習
練習 1
設
C = [ 1 4 0 2 0 0 1 − 3 0 0 0 0 ] . C=
\begin{bmatrix}
1&4&0&2\\
0&0&1&-3\\
0&0&0&0
\end{bmatrix}. C = 1 0 0 4 0 0 0 1 0 2 − 3 0 . 指出其主元欄，並把每個自由欄寫成主元欄的線性組合。
解答 · 練習 1 導引解答 主元欄是第 1 1 1 3 3 3
c 1 = e 1 , c 3 = e 2 . c_1=e_1,\qquad c_3=e_2. c 1 = e 1 , c 3 = e 2 . 自由欄是第 2 2 2 4 4 4
c 2 = 4 c 1 , c 4 = 2 c 1 − 3 c 3 . c_2=4c_1,
\qquad
c_4=2c_1-3c_3. c 2 = 4 c 1 , c 4 = 2 c 1 − 3 c 3 . 練習 2
假設 B B B C C C B = C B=C B = C
解答 · 練習 2 導引解答 因為 c 1 c_1 c 1 B B B b 1 = e 1 = c 1 b_1=e_1=c_1 b 1 = e 1 = c 1 c 2 = 4 c 1 c_2=4c_1 c 2 = 4 c 1 b 2 = 4 b 1 = 4 c 1 = c 2 b_2=4b_1=4c_1=c_2 b 2 = 4 b 1 = 4 c 1 = c 2
C C C B B B
b 3 = e 2 = c 3 . b_3=e_2=c_3. b 3 = e 2 = c 3 . 最後，c 4 = 2 c 1 − 3 c 3 c_4=2c_1-3c_3 c 4 = 2 c 1 − 3 c 3
b 4 = 2 b 1 − 3 b 3 = 2 c 1 − 3 c 3 = c 4 . b_4=2b_1-3b_3=2c_1-3c_3=c_4. b 4 = 2 b 1 − 3 b 3 = 2 c 1 − 3 c 3 = c 4 . 因此每一欄都相同，B = C B=C B = C
練習 3
解釋為甚麼以下兩個行等價的 REF 矩陣不會反駁 RREF 唯一性：
E 1 = [ 1 2 0 0 ] , E 2 = [ 2 4 0 0 ] . E_1=
\begin{bmatrix}
1&2\\
0&0
\end{bmatrix},
\qquad
E_2=
\begin{bmatrix}
2&4\\
0&0
\end{bmatrix}. E 1 = [ 1 0 2 0 ] , E 2 = [ 2 0 4 0 ] . 解答 · 練習 3 導引解答 它們行等價，而且都有行階梯形外觀，但 E 2 E_2 E 2 2 2 2 1 1 1
RREF 唯一性說的是最簡行階梯代表元唯一。它不是說每個中途得到的 REF 代表元
都唯一。
相關筆記
本節應在
2.5 行階梯形的存在性
和
5.1 可逆矩陣
之後閱讀。它也支撐
6.6 列空間、行空間與秩 。
