动机
一个常微分方程求解方法即使相容,仍可能对衰减的精确解算出急速增长的序列。这不违反步长趋零时的收敛定理:收敛讨论固定区间上足够细的网格,而实际计算使用某个指定步长。我们首先要问,这个步长令扰动衰减,还是令它增长。
若系统同时具有缓慢变化和快速衰减的部分,即使快速部分早已微不足道,它仍可能强迫显式方法使用极小步长。刚性所关心的,正是描述目标行为所需的步长,与保持数值稳定所需的步长之间的差距。隐式步需要解方程,单步成本较高,却可能容许大得多的步长。
稳定性还说明高阶方法的限制。Runge–Kutta 方法通过多次斜率评估提高单步精度,但在零步长附近更好地匹配 Taylor 展开,不代表大步长时仍稳定。本节比较前向 Euler、后向 Euler 及显式梯形 Runge–Kutta 方法。
定义
考虑标量线性测试方程
y′=λy,λ∈C.
令 z=hλ,精确单步因子是 ez。
若单步方法在此方程上给出 Yn+1=R(z)Yn(只要该步有定义),便称 R 为稳定函数。绝对稳定区域由所有步骤有定义且 ∣R(z)∣≤1 的点组成。
这个非严格不等式只保证标量扰动不增大;真正衰减需要 ∣R(z)∣<1。单位圆上的因子保持大小,却仍可能具有相位误差。
若稳定区域包含整个闭左半平面 Rez≤0(不计无定义的点),称方法为 A 稳定。若 A 稳定方法还满足当 z 在左半平面内且 ∣z∣→∞ 时 R(z)→0,便称为 L 稳定。
后一条件表示极快衰减模态受到强烈阻尼。这些都是测试方程的性质;对非线性问题还需要另外的假设和证明。
前向 Euler 的稳定函数为 1+z。后向 Euler 定义为
Yn+1=Yn+hf(tn+1,Yn+1).
右方时间与状态都用新端点,因此需要解出新状态。测试方程上有 R(z)=1/(1−z),条件是 z=1。若把右方时间或状态改成旧值,便改变了方法。
本节称下列显式梯形法为 Heun 方法:
k1=f(tn,Yn),k2=f(tn+h,Yn+hk1),Yn+1=Yn+2h(k1+k2).
第二个斜率在 Euler 预测值上评估,再与第一个斜率平均。隐式梯形法则把第二斜率评估在最后未知量 Yn+1 上,两者虽然名称相似,却不是同一方法。
概念视角分析
把稳定函数看成指数函数的近似
在测试方程上,精确因子是 ez,所以 p 阶方法必须满足:当 z→0 时 R(z)−ez=O(zp+1)。前向 Euler 与 Heun 用的是 Taylor 多项式 1+z 和 1+z+z2/2;后向 Euler 用 1/(1−z)=1+z+z2+⋯,只吻合到 z 项;隐式梯形因子 (1+z/2)/(1−z/2)=1+z+z2/2+z3/4+⋯ 则吻合到 z2 项。精度关乎 z=0 附近的行为;A 稳定性问的则是这个近似在左半平面深处是否仍保持 ∣R(z)∣≤1。
定理/命题
命题 2.1.3
(两种 Euler 方法的稳定区域)
前向 Euler 的绝对稳定区域恰为 ∣1+z∣≤1,在负实轴上为 [−2,0]。后向 Euler 为 A 稳定及 L 稳定。对实数 λ<0,后向 Euler 在任意正步长下都严格衰减;前向 Euler 则只在 0<h<−2/λ 时严格衰减。
命题 2.1.4
(Heun 的阶数及有限稳定区域)
设 f 在精确轨迹的邻域有连续至二阶的偏导数,展开所用区域内这些导数有界,且解在固定有限区间存在。Heun 从精确状态走一步的缺陷为 O(h3)。若另有包含精确状态、数值状态及所评估阶段的一致状态 Lipschitz 界,则整体误差为 O(h2)。测试方程上的稳定函数为
R(z)=1+z+z2/2,其负实轴稳定区间仍为 [−2,0]。
证明思路
代入测试方程,前向 Euler 立即给出 Yn+1=(1+z)Yn。对非正实数 z,∣1+z∣≤1 等价于 −2≤z≤0。在 z=−2,因子为 −1,所以符号交替但大小不减,与精确解的衰减有明显差别。
后向 Euler 给出 (1−z)Yn+1=Yn。当 Rez≤0,
∣1−z∣2=(1−Rez)2+(Imz)2≥1.分母非零且 ∣R∣≤1,因此为 A 稳定。当 ∣z∣→∞,分母的模也趋无限,故 R→0,得到 L 稳定。若 z 为负实数,分母严格大于一,便有严格衰减。
分析 Heun 时,以精确状态 y=y(t) 出发,并简写 f=f(t,y)。对时间及状态一同展开:
f(t+h,y+hf)=f+h(ft+Dyff)+O(h2).更新值为 y+hf+h2(ft+Dyff)/2+O(h3)。由方程求导有 y′′=ft+Dyff,所以与精确展开匹配至二次项。有界导数令余项估计一致。非自治方程中的 ft 不能省略。
若两个输入相距 δ,第一斜率相距至多 Lδ,两预测值相距至多 (1+hL)δ,第二斜率便相距至多 L(1+hL)δ。最后加权和给出步进映射的 Lipschitz 因子 1+hL+h2L2/2。对 h≤h0,它不超过 1+Ch,其中 C=L+h0L2/2。把 O(h3) 缺陷放进误差递推式,再用等比级数求和,得到 O(h2) 的整体界。所有阶段都落在假设区域内,是此推论不可缺少的一部分。
在测试方程上,k1=λYn、k2=λ(1+z)Yn,所以得到所述多项式。对实数 z,它等于 ((z+1)2+1)/2>0。模不超过一恰好要求 (z+1)2≤1,故区间仍为 [−2,0]。二阶精度没有扩大这个特定稳定区间。
证明透视
Heun 证明在何处使用各项假设
关键一步是把第二斜率在起点展开,再与由方程求导得到的 y′′=ft+Dyff 比较。k1、k2 各取权重二分之一,正是令 h2 系数吻合的原因;其他权重只会得到一阶方法。二阶导数界只用来令 k2 中的 O(h2) 余项,从而 O(h3) 缺陷,一致成立。Lipschitz 界需要在两个阶段时刻及预测值 y+hf 处成立,所以假设区域必须包含所评估的阶段,而不只是数值状态。证明以与 Euler 相同的机制收尾:步进因子 1+Ch 加上约 T/h 个 O(h3) 缺陷,给出 O(h2)。测试方程部分另行处理,不需要光滑性:((z+1)2+1)/2 在实轴上为正,绝对值便可去掉。
例题详解
取 y′=−20y、y(0)=1、h=0.2。精确第一步为 e−4≈0.01831564。前向 Euler 的因子为 −3,故 Yn=(−3)n。Heun 的因子为 1−4+8=5,故得到 5n。两者都随步数增长。
后向 Euler 得到 Yn=5−n,确实衰减,但第一步的 0.2 仍远大于精确值。稳定性排除了不合理的增长机制,并未保证短暂过程得到准确解析。若初始快速衰减本身就是关注目标,隐式方法也需要较小步长。
考虑
y′=−1000(y−cost)−sint,y(0)=1.精确解为 cost。若初值偏移 δ,两解之差为 δe−1000t,因为差满足 w′=−1000w。可见解本身在一量级时间内变化,扰动却在千分之一量级时间内衰减。
前向 Euler 传播差值的因子为 1−1000h,严格衰减要求 h<0.002;快速暂态消失后,限制仍存在。后向 Euler 的差值因子为 1/(1+1000h)。取 h=0.1,第一步为
Y1=1011+100cos(0.1)−0.1sin(0.1)≈0.99495478.精确值约为 0.99500417。这说明一个有效的刚性步,但不取代整体精度分析。外力项每一步都引入离散误差,因此精确初值也不会消除稳定性问题。
对 y′=t+y、y(0)=1,取 h=0.1。第一斜率为 1,预测值为 1.1,第二斜率为 0.1+1.1=1.2,所以 Y1=1+0.05(2.2)=1.11。精确值为 2e0.1−1.1≈1.11034184,而 Euler 只给出 1.1。
第二次评估同时反映时间及状态的改变。若错误地仍用时间零,第二斜率变成 1.1,结果为 1.105,便失去正确的二阶时间项。阶段时间是方法的数学定义之一,不能任意修改。
振荡需要另一种判断
对 y′=iωy,精确解大小不变。令 θ=ωh,前向 Euler 有 ∣R(iθ)∣2=1+θ2,任何非零步都令大小增长。Heun 有 ∣R(iθ)∣2=1+θ4/4,增长较弱但仍存在。后向 Euler 的因子模为 1/1+θ2,反而对本应保持大小的振荡加入阻尼。
隐式中点法的稳定函数为 (1+z/2)/(1−z/2)。在虚轴上,分子分母模相同,所以保持标量大小,但相位仍与精确因子不同。分母模平方减分子模平方为 −2Rez,故它也是 A 稳定。不过沿负实轴趋向无限时,因子趋向 −1,因此不是 L 稳定;极快衰减模态可能交替而没有受到强阻尼。
精度和结构的选择也应配合观察时间。微小的每步振幅误差若重复很多次,可以变得显著;保持振幅的方法若相位不准,也可能在长时间后预测错误的峰值位置。因此“没有爆炸”只是基本检查,并不是对振荡问题的完整评价。应把所关心的量与方法实际保留的性质对照。
从标量测试到系统
对可对角化常矩阵方程 y′=Ay,每个特征向量方向有自己的因子 R(hλj)。所以特征值是否落在稳定区域是自然的初步诊断。但向量误差界还涉及特征向量矩阵的条件;非正规矩阵甚至可在最终衰减前出现明显暂态增长。标量稳定区域不是任意系统完整的算子范数估计。
反例模式
特征值稳定而范数增长
断言:若 A 的每个特征值 λ 都使 hλ 严格位于稳定区域内,数值解的范数便永不增长。对 y′=Ay 用前向 Euler,取 A=(−10100−1)、h=1/2。唯一特征值给出 z=−1/2、R(z)=1/2。步进矩阵为 B=I+hA=21(I+100N),其中 N=(0010);由 N2=0 得 Bn=2−n(I+100nN)。从 Y0=(0,1)T 出发,Yn=2−n(100n,1)T,故 Y1=(50,1/2)T、Y2=(50,1/4)T:范数由 1 跳至约 50,之后才衰减,因为 Y3=(37.5,1/8)T。特征值测试在此只保证最终衰减。范数结论需要更多条件,例如矩阵为正规矩阵,或在可对角化时对特征向量矩阵及其逆有界。
刚性因此是问题与方法之间的关系,而非某一系数超过固定门槛。相差很大的负特征值常提供线索,但外力、计算区间、目标量和容许误差也有影响。很大的系数有时代表确实需要解析的快速振荡;称它为刚性,不能免除精度要求。
隐式步还要可靠地解代数方程。非线性后向 Euler 在大步长下可能无解或多解,除非另有假设保证。若 u↦Yn+hf(tn+1,u) 在适当的完备不变集合上为压缩映射,便有唯一解;全局 hL<1 是一个充分条件。它并非必要,因为负实线性例子对任意正步长都唯一可解。测试方程的 A 稳定性不等于普遍的非线性可解性。
求解容许误差也会影响时间积分。若每次隐式方程只解到固定绝对精度,代数误差便会成为步进扰动。步长减小而步数增加时,这些扰动未必同步减小。实际比较不同步长的收敛率前,应把代数误差控制在预期离散误差之下,并清楚记录停止准则;否则观察到的误差平台未必来自方法阶数。
常见错误
常见错误
(以 R(z)≤1 代替 ∣R(z)∣≤1)
不可把 ∣R(z)∣≤1 写成 R(z)≤1:前向 Euler 在 z=−4 的因子 −3 满足后者却放大每个扰动。稳定区域边界的有界性也不等于衰减。
显式梯形法(Heun)与隐式梯形法是不同方法,虽然两者都平均两个斜率。它们的稳定函数分别为 1+z+z2/2 与 (1+z/2)/(1−z/2);在 z=−4 时分别是 5 与 −1/3。
自适应精度估计和绝对稳定限制回答不同问题。缓慢可见解的局部缺陷很小,仍可能伴随不稳定扰动。
高阶只描述零附近的展开。显式 Runge–Kutta 方法的稳定函数是多项式,而非常数多项式不可能在整条负实轴有界,所以单纯提高显式阶数不能得到 A 稳定。
总结
重复走很多步之前,先计算放大因子。前向 Euler 与 Heun 的精度阶数不同,负实轴稳定区间却相同。后向 Euler 对所有负实模态都有衰减且为 L 稳定,但仍须检查精度与代数可解性。稳定性结论必须连同其测试问题和假设理解。
练习
快速检查
(对 y′=−8y,求前向 Euler 与 Heun 严格衰减的正步长范围。上端点会发生什么?)
解答 · 答案
两者均要求 −2<−8h<0,即 0<h<1/4。在 h=1/4,Euler 因子为 −1,符号交替而不衰减;Heun 因子为 1,数值不变。按非严格定义,两者在端点都绝对稳定,却都没有重现精确衰减。
快速检查
(对 y′=y2、y(0)=1,用 Heun 走一步 h=1/2,并与精确值比较。)
解答 · 答案
第一斜率为 1,预测值为 1.5,第二斜率为 2.25。因此 Y1=1+(1/4)(1+2.25)=1.8125。精确解 1/(1−t) 在 t<1 存在,终点精确值为 2,有号误差为 0.1875。此分析不可越过解在 t=1 的爆破。
快速检查
(证明隐式梯形法的测试方程因子为 (1+z/2)/(1−z/2)。它是否 L 稳定?)
解答 · 答案
由 Yn+1=Yn+(z/2)(Yn+Yn+1) 整理即可得到因子,条件为 z=2。前述模平方比较证明 A 稳定;但实数 z→−∞ 时因子趋向 −1,故不是 L 稳定。快速负模态可能持续交替,而非迅速消失。