當一個線性映射被反覆作用時,特徵值最為有用。人口、馬爾可夫(Markov)型模型或迭代算法在 步後的狀態是 ,這個序列的行為由 的特徵值支配。本單元處理三個推論:差分方程 的顯式解、以譜半徑表達的穩定性判準,以及以反覆相乘求主特徵值的冪法。本單元建基於前面關於行列式、特徵值與對角化的單元,對稱情形還用到內積單元的標準正交基。以下 為實 矩陣;特徵值與特徵向量可以是複數。
求解
設 有 個線性無關的特徵向量 ,。任何 可寫成 ,於是
這由 (對 歸納)及線性得出。二階遞歸 可令 而化為此形式,即 。
定義 2.3.1
(譜半徑)
的譜半徑為 ,即特徵值的最大模。
定理 2.3.2
(穩定性判準)
設 有由(可能為複的)特徵向量組成的基。則對每個初始向量 都有 當且僅當 。若 ,則存在(可能為複的)初始向量使 ,也存在軌道無界的實初始向量。
證明
(沿特徵基逐項衰減)
若 ,每一項 都趨於 ,故 。若某個 ,取 :則 的範數為 ,不趨於 ;若 則趨於無窮。對實矩陣與實初始向量,若 為複向量,則 ,;由於 不趨於 ,兩者不可能都趨於 ;又因 ,當 時兩條實軌道中至少有一條無界。
穩定性是關於 極限的論斷;它不排除中間出現很大的值(見帶暫態的穩定性例題)。
冪法
算法。 取 。對 計算 (可把 單位化以避免溢出)。主特徵值可用 與 對應分量之比,或瑞利(Rayleigh)商 來估計。
定理 2.3.3
(冪法的收斂)
設 有實特徵向量基 ,且 時 。設 ,。令 。則
特別地, 的方向以幾何速率 收斂到 的方向,且 與 對應分量之比趨於 。
證明
(分離主導項)
,由三角不等式,和的範數不超過 。對比值:任何滿足 的分量 有 。
定理 2.3.4
(對稱矩陣的瑞利商收斂)
另設 為對稱矩陣,有標準正交的特徵向量 (故 ),且 時 ,。則
證明
(瑞利商的標準正交展開)
由標準正交性,,。因此
利用 ,分母的下界 ,以及 即得。
證明透視
瑞利商證明中對稱性與佔優性的作用
對稱性只用了一次:使特徵向量成為標準正交,令 與 只含平方項 ,沒有交叉項。真正的想法是減去 :主導項從分子中消失,只剩 的項,而每項帶有指數為 (而非 )的 。這個加倍的指數正是速率為 的原因。嚴格佔優透過 進入證明, 則用在分母的下界; 只是控制常數。
所以瑞利商以速率 收斂,是特徵向量本身收斂速度的兩倍。
反例模式
瑞利商需要嚴格佔優的特徵值
斷言:對對稱矩陣,只要 沿各特徵向量的分量非零,瑞利商 就收斂到模最大的特徵值。沒有嚴格佔優時這是假的。取 、,則 ,所以 、,即對每個 都有 。這不是 的特徵值,而且 的方向在兩條直線之間來回交替,並不收斂。修正後的假設是 (),正如上面的收斂定理所設。
例題
例題 2.3.5
(手算冪法)
設 ,。迭代結果為
第二分量與第一分量之比為 。 的特徵值為 ,主特徵向量為 (由 ),所以比值趨近 。誤差 與 之比約為 ,與 吻合。在 的瑞利商為 ,已很接近 。
例題 2.3.6
(帶暫態的穩定性)
設 。特徵值為 與 ,故 ,每條軌道都趨於 。從 出發,軌道的第一個分量依次為 :軌道先增長後衰減。確實 ,,。對矩陣 ,特徵多項式為 ,故 ,。
例題 2.3.7
(譜半徑被取到兩次時不收斂)
設 。則 ,特徵值為 。從 出發:,,軌道的週期為 ,不收斂。冪法對這個矩陣失效,因為主導條件 不成立:。
常見錯誤與細節
若有兩個特徵值的最大模相同(例如 與 ),冪法一般不收斂。
常見錯誤
(沿主導特徵向量的分量為零)
若 恰好成立,則在精確運算中迭代無法求得 (而會被較小特徵值的特徵向量吸引);在浮點運算中,捨入誤差通常會重新引入小的 分量。用隨機初始向量可避免此問題。
每步除以範數以避免溢出;特徵值估計則取自瑞利商或單位化之前的比值。
常見錯誤
(穩定不等於單調衰減)
譜半徑控制的是極限,而不是中間向量的大小(見帶暫態的穩定性例題)。
常見錯誤
(速度取決於第二個特徵值)
控制速度的是比值 ,而不是 本身的大小。
練習
快速檢查
(設 ,求 的公式。)
解答 · 答案
為上三角矩陣,特徵值為 與 。: 給出 。: 給出 。所以 ,,
時即為 。
快速檢查
(系統 穩定嗎?對 計算 。)
解答 · 答案
矩陣為上三角,特徵值為 與 ,故 ,由穩定性判準系統穩定。取 :,。第一個分量先增後減。
快速檢查
(對 與 ,計算 以及 的瑞利商 ,並與主特徵值 比較。)
解答 · 答案
,,。瑞利商為 。主特徵值為 (特徵值為 與 ),故誤差約為 。注意 不是對稱矩陣,瑞利商定理不能直接應用;但估計仍相當接近。
快速檢查
(若 ,迭代多少次 才保證 ?)
解答 · 答案
需要 ,即 。所以迭代 次即可( 不能保證,因為 )。