当一个线性映射被反复作用时,特征值最为有用。人口、马尔可夫(Markov)型模型或迭代算法在 步后的状态是 ,这个序列的行为由 的特征值支配。本单元处理三个推论:差分方程 的显式解、以谱半径表达的稳定性判据,以及以反复相乘求主特征值的幂法。本单元建立在前面关于行列式、特征值与对角化的单元之上,对称情形还用到内积单元的标准正交基。以下 为实 矩阵;特征值与特征向量可以是复数。
求解
设 有 个线性无关的特征向量 ,。任何 可写成 ,于是
这由 (对 归纳)及线性得出。二阶递推 可令 而化为此形式,即 。
定义 2.3.1
(谱半径)
的谱半径为 ,即特征值的最大模。
定理 2.3.2
(稳定性判据)
设 有由(可能为复的)特征向量组成的基。则对每个初始向量 都有 当且仅当 。若 ,则存在(可能为复的)初始向量使 ,也存在轨道无界的实初始向量。
证明
(沿特征基逐项衰减)
若 ,每一项 都趋于 ,故 。若某个 ,取 :则 的范数为 ,不趋于 ;若 则趋于无穷。对实矩阵与实初始向量,若 为复向量,则 ,;由于 不趋于 ,两者不可能都趋于 ;又因 ,当 时两条实轨道中至少有一条无界。
稳定性是关于 极限的论断;它不排除中间出现很大的值(见带暂态的稳定性例题)。
幂法
算法。 取 。对 计算 (可把 单位化以避免溢出)。主特征值可用 与 对应分量之比,或瑞利(Rayleigh)商 来估计。
定理 2.3.3
(幂法的收敛)
设 有实特征向量基 ,且 时 。设 ,。令 。则
特别地, 的方向以几何速率 收敛到 的方向,且 与 对应分量之比趋于 。
证明
(分离主导项)
,由三角不等式,和的范数不超过 。对比值:任何满足 的分量 有 。
定理 2.3.4
(对称矩阵的瑞利商收敛)
另设 为对称矩阵,有标准正交的特征向量 (故 ),且 时 ,。则
证明
(瑞利商的标准正交展开)
由标准正交性,,。因此
利用 ,分母的下界 ,以及 即得。
证明透视
瑞利商证明中对称性与占优性的作用
对称性只用了一次:使特征向量标准正交,令 与 只含平方项 ,没有交叉项。真正的想法是减去 :主导项从分子中消失,只剩 的项,而每项带有指数为 (而非 )的 。这个加倍的指数正是速率为 的原因。严格占优通过 进入证明, 则用在分母的下界; 只是控制常数。
所以瑞利商以速率 收敛,是特征向量本身收敛速度的两倍。
反例模式
瑞利商需要严格占优的特征值
断言:对对称矩阵,只要 沿各特征向量的分量非零,瑞利商 就收敛到模最大的特征值。没有严格占优时这是假的。取 、,则 ,所以 、,即对每个 都有 。这不是 的特征值,而且 的方向在两条直线之间来回交替,并不收敛。修正后的假设是 (),正如上面的收敛定理所设。
例题
例题 2.3.5
(手算幂法)
设 ,。迭代结果为
第二分量与第一分量之比为 。 的特征值为 ,主特征向量为 (由 ),所以比值趋近 。误差 与 之比约为 ,与 吻合。在 的瑞利商为 ,已很接近 。
例题 2.3.6
(带暂态的稳定性)
设 。特征值为 与 ,故 ,每条轨道都趋于 。从 出发,轨道的第一个分量依次为 :轨道先增长后衰减。确实 ,,。对矩阵 ,特征多项式为 ,故 ,。
例题 2.3.7
(谱半径被取到两次时不收敛)
设 。则 ,特征值为 。从 出发:,,轨道的周期为 ,不收敛。幂法对这个矩阵失效,因为主导条件 不成立:。
常见错误与细节
若有两个特征值的最大模相同(例如 与 ),幂法一般不收敛。
常见错误
(沿主导特征向量的分量为零)
若 恰好成立,则在精确运算中迭代无法求得 (而会被较小特征值的特征向量吸引);在浮点运算中,舍入误差通常会重新引入小的 分量。用随机初始向量可避免此问题。
每步除以范数以避免溢出;特征值估计则取自瑞利商或单位化之前的比值。
常见错误
(稳定不等于单调衰减)
谱半径控制的是极限,而不是中间向量的大小(见带暂态的稳定性例题)。
常见错误
(速度取决于第二个特征值)
控制速度的是比值 ,而不是 本身的大小。
练习
快速检查
(设 ,求 的公式。)
解答 · 答案
为上三角矩阵,特征值为 与 。: 给出 。: 给出 。所以 ,,
时即为 。
快速检查
(系统 稳定吗?对 计算 。)
解答 · 答案
矩阵为上三角,特征值为 与 ,故 ,由稳定性判据系统稳定。取 :,。第一个分量先增后减。
快速检查
(对 与 ,计算 以及 的瑞利商 ,并与主特征值 比较。)
解答 · 答案
,,。瑞利商为 。主特征值为 (特征值为 与 ),故误差约为 。注意 不是对称矩阵,瑞利商定理不能直接应用;但估计仍相当接近。
快速检查
(若 ,迭代多少次 才保证 ?)
解答 · 答案
需要 ,即 。所以迭代 次即可( 不能保证,因为 )。