動機
一個常微分方程求解方法即使相容,仍可能對衰減的精確解算出急速增長的序列。這不違反步長趨零時的收斂定理:收斂討論固定區間上足夠細的網格,而實際計算使用某個指定步長。我們首先要問,這個步長令擾動衰減,還是令它增長。
若系統同時具有緩慢變化和快速衰減的部分,即使快速部分早已微不足道,它仍可能強迫顯式方法使用極小步長。剛性所關心的,正是描述目標行為所需的步長,與保持數值穩定所需的步長之間的差距。隱式步需要解方程,單步成本較高,卻可能容許大得多的步長。
穩定性還說明高階方法的限制。Runge–Kutta 方法透過多次斜率評估提高單步精度,但在零步長附近更好地匹配 Taylor 展開,不代表大步長時仍穩定。本節比較前向 Euler、後向 Euler 及顯式梯形 Runge–Kutta 方法。
定義
考慮純量線性測試方程
y′=λy,λ∈C.
令 z=hλ,精確單步因子是 ez。
若單步方法在此方程上給出 Yn+1=R(z)Yn(只要該步有定義),便稱 R 為穩定函數。絕對穩定區域由所有步驟有定義且 ∣R(z)∣≤1 的點組成。
這個非嚴格不等式只保證純量擾動不增大;真正衰減需要 ∣R(z)∣<1。單位圓上的因子保持大小,卻仍可能具有相位誤差。
若穩定區域包含整個閉左半平面 Rez≤0(不計無定義的點),稱方法為 A 穩定。若 A 穩定方法還滿足當 z 在左半平面內且 ∣z∣→∞ 時 R(z)→0,便稱為 L 穩定。
後一條件表示極快衰減模態受到強烈阻尼。這些都是測試方程的性質;對非線性問題還需要另外的假設和證明。
前向 Euler 的穩定函數為 1+z。後向 Euler 定義為
Yn+1=Yn+hf(tn+1,Yn+1).
右方時間與狀態都用新端點,因此需要解出新狀態。測試方程上有 R(z)=1/(1−z),條件是 z=1。若把右方時間或狀態改成舊值,便改變了方法。
本節稱下列顯式梯形法為 Heun 方法:
k1=f(tn,Yn),k2=f(tn+h,Yn+hk1),Yn+1=Yn+2h(k1+k2).
第二個斜率在 Euler 預測值上評估,再與第一個斜率平均。隱式梯形法則把第二斜率評估在最後未知量 Yn+1 上,兩者雖然名稱相似,卻不是同一方法。
概念視角分析
把穩定函數看成指數函數的近似
在測試方程上,精確因子是 ez,所以 p 階方法必須滿足:當 z→0 時 R(z)−ez=O(zp+1)。前向 Euler 與 Heun 用的是 Taylor 多項式 1+z 和 1+z+z2/2;後向 Euler 用 1/(1−z)=1+z+z2+⋯,只吻合至 z 項;隱式梯形因子 (1+z/2)/(1−z/2)=1+z+z2/2+z3/4+⋯ 則吻合至 z2 項。精度關乎 z=0 附近的行為;A 穩定性問的則是這個近似在左半平面深處是否仍保持 ∣R(z)∣≤1。
定理/命題
命題 2.1.3
(兩種 Euler 方法的穩定區域)
前向 Euler 的絕對穩定區域恰為 ∣1+z∣≤1,在負實軸上為 [−2,0]。後向 Euler 為 A 穩定及 L 穩定。對實數 λ<0,後向 Euler 在任意正步長下都嚴格衰減;前向 Euler 則只在 0<h<−2/λ 時嚴格衰減。
命題 2.1.4
(Heun 的階數及有限穩定區域)
設 f 在精確軌跡的鄰域有連續至二階的偏導數,展開所用區域內這些導數有界,且解在固定有限區間存在。Heun 從精確狀態走一步的缺陷為 O(h3)。若另有包含精確狀態、數值狀態及所評估階段的一致狀態 Lipschitz 界,則整體誤差為 O(h2)。測試方程上的穩定函數為
R(z)=1+z+z2/2,其負實軸穩定區間仍為 [−2,0]。
證明思路
代入測試方程,前向 Euler 立即給出 Yn+1=(1+z)Yn。對非正實數 z,∣1+z∣≤1 等價於 −2≤z≤0。在 z=−2,因子為 −1,所以符號交替但大小不減,與精確解的衰減有明顯差別。
後向 Euler 給出 (1−z)Yn+1=Yn。當 Rez≤0,
∣1−z∣2=(1−Rez)2+(Imz)2≥1.分母非零且 ∣R∣≤1,因此為 A 穩定。當 ∣z∣→∞,分母的模也趨無限,故 R→0,得到 L 穩定。若 z 為負實數,分母嚴格大於一,便有嚴格衰減。
分析 Heun 時,以精確狀態 y=y(t) 出發,並簡寫 f=f(t,y)。對時間及狀態一同展開:
f(t+h,y+hf)=f+h(ft+Dyff)+O(h2).更新值為 y+hf+h2(ft+Dyff)/2+O(h3)。由方程求導有 y′′=ft+Dyff,所以與精確展開匹配至二次項。有界導數令餘項估計一致。非自治方程中的 ft 不能省略。
若兩個輸入相距 δ,第一斜率相距至多 Lδ,兩預測值相距至多 (1+hL)δ,第二斜率便相距至多 L(1+hL)δ。最後加權和給出步進映射的 Lipschitz 因子 1+hL+h2L2/2。對 h≤h0,它不超過 1+Ch,其中 C=L+h0L2/2。把 O(h3) 缺陷放進誤差遞推式,再用等比級數求和,得到 O(h2) 的整體界。所有階段都落在假設區域內,是此推論不可缺少的一部分。
在測試方程上,k1=λYn、k2=λ(1+z)Yn,所以得到所述多項式。對實數 z,它等於 ((z+1)2+1)/2>0。模不超過一恰好要求 (z+1)2≤1,故區間仍為 [−2,0]。二階精度沒有擴大這個特定穩定區間。
證明透視
Heun 證明在何處使用各項假設
關鍵一步是把第二斜率在起點展開,再與由方程求導得到的 y′′=ft+Dyff 比較。k1、k2 各取權重二分之一,正是令 h2 係數吻合的原因;其他權重只會得到一階方法。二階導數界只用來令 k2 中的 O(h2) 餘項,從而 O(h3) 缺陷,一致成立。Lipschitz 界需要在兩個階段時刻及預測值 y+hf 處成立,所以假設區域必須包含所評估的階段,而不只是數值狀態。證明以與 Euler 相同的機制收結:步進因子 1+Ch 加上約 T/h 個 O(h3) 缺陷,給出 O(h2)。測試方程部分另行處理,不需要光滑性:((z+1)2+1)/2 在實軸上為正,絕對值便可去掉。
例題詳解
取 y′=−20y、y(0)=1、h=0.2。精確第一步為 e−4≈0.01831564。前向 Euler 的因子為 −3,故 Yn=(−3)n。Heun 的因子為 1−4+8=5,故得到 5n。兩者都隨步數增長。
後向 Euler 得到 Yn=5−n,確實衰減,但第一步的 0.2 仍遠大於精確值。穩定性排除了不合理的增長機制,並未保證短暫過程得到準確解析。若初始快速衰減本身就是關注目標,隱式方法也需要較小步長。
考慮
y′=−1000(y−cost)−sint,y(0)=1.精確解為 cost。若初值偏移 δ,兩解之差為 δe−1000t,因為差滿足 w′=−1000w。可見解本身在一量級時間內變化,擾動卻在千分之一量級時間內衰減。
前向 Euler 傳播差值的因子為 1−1000h,嚴格衰減要求 h<0.002;快速暫態消失後,限制仍存在。後向 Euler 的差值因子為 1/(1+1000h)。取 h=0.1,第一步為
Y1=1011+100cos(0.1)−0.1sin(0.1)≈0.99495478.精確值約為 0.99500417。這說明一個有效的剛性步,但不取代整體精度分析。外力項每一步都引入離散誤差,因此精確初值也不會消除穩定性問題。
對 y′=t+y、y(0)=1,取 h=0.1。第一斜率為 1,預測值為 1.1,第二斜率為 0.1+1.1=1.2,所以 Y1=1+0.05(2.2)=1.11。精確值為 2e0.1−1.1≈1.11034184,而 Euler 只給出 1.1。
第二次評估同時反映時間及狀態的改變。若錯誤地仍用時間零,第二斜率變成 1.1,結果為 1.105,便失去正確的二階時間項。階段時間是方法的數學定義之一,不能任意修改。
振盪需要另一種判斷
對 y′=iωy,精確解大小不變。令 θ=ωh,前向 Euler 有 ∣R(iθ)∣2=1+θ2,任何非零步都令大小增長。Heun 有 ∣R(iθ)∣2=1+θ4/4,增長較弱但仍存在。後向 Euler 的因子模為 1/1+θ2,反而對本應保持大小的振盪加入阻尼。
隱式中點法的穩定函數為 (1+z/2)/(1−z/2)。在虛軸上,分子分母模相同,所以保持純量大小,但相位仍與精確因子不同。分母模平方減分子模平方為 −2Rez,故它也是 A 穩定。不過沿負實軸趨向無限時,因子趨向 −1,因此不是 L 穩定;極快衰減模態可能交替而沒有受到強阻尼。
精度和結構的選擇也應配合觀察時間。微小的每步振幅誤差若重複很多次,可以變得顯著;保持振幅的方法若相位不準,也可能在長時間後預測錯誤的峰值位置。因此「沒有爆炸」只是基本檢查,並不是對振盪問題的完整評價。應把所關心的量與方法實際保留的性質對照。
從純量測試到系統
對可對角化常矩陣方程 y′=Ay,每個特徵向量方向有自己的因子 R(hλj)。所以特徵值是否落在穩定區域是自然的初步診斷。但向量誤差界還涉及特徵向量矩陣的條件;非正規矩陣甚至可在最終衰減前出現明顯暫態增長。純量穩定區域不是任意系統完整的算子範數估計。
反例模式
特徵值穩定而範數增長
聲稱:若 A 的每個特徵值 λ 都使 hλ 嚴格位於穩定區域內,數值解的範數便永不增長。對 y′=Ay 用前向 Euler,取 A=(−10100−1)、h=1/2。唯一特徵值給出 z=−1/2、R(z)=1/2。步進矩陣為 B=I+hA=21(I+100N),其中 N=(0010);由 N2=0 得 Bn=2−n(I+100nN)。從 Y0=(0,1)T 出發,Yn=2−n(100n,1)T,故 Y1=(50,1/2)T、Y2=(50,1/4)T:範數由 1 跳至約 50,之後才衰減,因為 Y3=(37.5,1/8)T。特徵值測試在此只保證最終衰減。範數結論需要更多條件,例如矩陣為正規矩陣,或在可對角化時對特徵向量矩陣及其逆有界。
剛性因此是問題與方法之間的關係,而非某一係數超過固定門檻。相差很大的負特徵值常提供線索,但外力、計算區間、目純量和容許誤差也有影響。很大的係數有時代表確實需要解析的快速振盪;稱它為剛性,不能免除精度要求。
隱式步還要可靠地解代數方程。非線性後向 Euler 在大步長下可能無解或多解,除非另有假設保證。若 u↦Yn+hf(tn+1,u) 在適當的完備不變集合上為壓縮映射,便有唯一解;全域 hL<1 是一個充分條件。它並非必要,因為負實線性例子對任意正步長都唯一可解。測試方程的 A 穩定性不等於普遍的非線性可解性。
求解容許誤差也會影響時間積分。若每次隱式方程只解到固定絕對精度,代數誤差便會成為步進擾動。步長減小而步數增加時,這些擾動未必同步減小。實際比較不同步長的收斂率前,應把代數誤差控制在預期離散誤差之下,並清楚記錄停止準則;否則觀察到的誤差平台未必來自方法階數。
常見錯誤
常見錯誤
(以 R(z)≤1 代替 ∣R(z)∣≤1)
不可把 ∣R(z)∣≤1 寫成 R(z)≤1:前向 Euler 在 z=−4 的因子 −3 滿足後者卻放大每個擾動。穩定區域邊界的有界性也不等於衰減。
顯式梯形法(Heun)與隱式梯形法是不同方法,雖然兩者都平均兩個斜率。它們的穩定函數分別為 1+z+z2/2 與 (1+z/2)/(1−z/2);在 z=−4 時分別是 5 與 −1/3。
自適應精度估計和絕對穩定限制回答不同問題。緩慢可見解的局部缺陷很小,仍可能伴隨不穩定擾動。
高階只描述零附近的展開。顯式 Runge–Kutta 方法的穩定函數是多項式,而非常數多項式不可能在整條負實軸有界,所以單純提高顯式階數不能得到 A 穩定。
總結
重複走很多步之前,先計算放大因子。前向 Euler 與 Heun 的精度階數不同,負實軸穩定區間卻相同。後向 Euler 對所有負實模態都有衰減且為 L 穩定,但仍須檢查精度與代數可解性。穩定性結論必須連同其測試問題和假設理解。
練習
快速檢查
(對 y′=−8y,求前向 Euler 與 Heun 嚴格衰減的正步長範圍。上端點會發生甚麼?)
解答 · 答案
兩者均要求 −2<−8h<0,即 0<h<1/4。在 h=1/4,Euler 因子為 −1,符號交替而不衰減;Heun 因子為 1,數值不變。按非嚴格定義,兩者在端點都絕對穩定,卻都沒有重現精確衰減。
快速檢查
(對 y′=y2、y(0)=1,用 Heun 走一步 h=1/2,並與精確值比較。)
解答 · 答案
第一斜率為 1,預測值為 1.5,第二斜率為 2.25。因此 Y1=1+(1/4)(1+2.25)=1.8125。精確解 1/(1−t) 在 t<1 存在,終點精確值為 2,有號誤差為 0.1875。此分析不可越過解在 t=1 的爆破。
快速檢查
(證明隱式梯形法的測試方程因子為 (1+z/2)/(1−z/2)。它是否 L 穩定?)
解答 · 答案
由 Yn+1=Yn+(z/2)(Yn+Yn+1) 整理即可得到因子,條件為 z=2。前述模平方比較證明 A 穩定;但實數 z→−∞ 時因子趨向 −1,故不是 L 穩定。快速負模態可能持續交替,而非迅速消失。