動機
模糊照片並非隨意失去一些細節。成像裝置先混合鄰近位置的亮度,再引入誤差。圖像復原要由觀測反推原圖:正向計算通常容易,但逆向計算可能把微小的量測誤差放大成明顯振盪。因此,「矩陣有逆」和「能穩定重建」是兩個不同問題。本節以有限維模型說明其差別。這些計算旨在解釋一個數學機制,而非規定一套通用的成像流程。
週期邊界使頻譜計算精確而清楚,但不代表真實照片的左右邊緣相接。把數學模型用於數據前,必須選定邊界延拓、取樣方式及誤差模型。傅立葉(Fourier)座標將平移不變的模糊分解成獨立方向;Haar 座標則把圖像拆成平均值與局部差異。兩種座標都不能創造觀測中不存在的資訊,它們只是分別揭示量測與圖像假設的結構。
定義
以 u∈RN 表示一維圖像,下標按模 N 計算。二維情形可沿兩個座標作相同定義。核 h∈RN 定義圓周卷積
(Ku)j=ℓ=0∑N−1hj−ℓuℓ,f=Ku+η.
f 是觀測,η 是未知誤差。若核非負且總和為一,每個輸出就是鄰近亮度的加權平均,而且常數圖像不變。以下代數只需要卷積公式,並不必然要求核非負。即使物理亮度非負,無約束的線性重建仍可能產生負數;若要施加非負約束,須另行分析最小化問題。
採用酉離散傅立葉變換
uk=N−1/2j=0∑N−1uje−2πijk/N.
逆變換的指數符號相反,係數仍是 N−1/2。定義傳遞函數 Hk=j∑hje−2πijk/N;注意這是核的未正規化變換。因此 Kuk=Hkuk,不再額外出現 N。酉性表示變換前後的歐氏(Euclidean)範數相等。實圖像的頻譜有共軛對稱性,不能把正負頻率當成互不相關的任意複數。
對 α>0,二次 Tikhonov 復原最小化
Jα(u)=21∥Ku−f∥22+2α∥u∥22.
第一項量度數據擬合,第二項抑制重建能量。懲罰的選擇是一項建模假設,不是由量測方程自動推出的。若改用差分懲罰 ∥Du∥2,其中 (Du)j=uj+1−uj,則常數位於其零空間,整體亮度與振盪會受到不同處理。
定理 / 命題
圓周卷積滿足 Kuk=Hkuk。它可逆當且僅當所有 Hk 非零。可逆時,數據擾動滿足
∥K−1δf∥2≤mink∣Hk∣∥δf∥2.最小傳遞幅值對應的頻譜方向可達到此界。
對任意實矩陣 K、數據 f 及 α>0,唯一極小解是
uα=(KTK+αI)−1KTf.若 K 是圓周卷積,則
uα,k=∣Hk∣2+αHkfk.數據到重建的算子範數至多為 1/(2α)。
最後的界只描述固定參數下對數據誤差的敏感度,並不是相對未知真圖的總誤差界。增大參數雖可降低敏感度,也可能抑制真正的細節。評估復原時必須同時考慮誤差放大與懲罰帶來的偏差。
若已知誤差界 ∥η∥≤δ,可把殘差與此尺度比較。遠小於預期誤差的殘差可能表示擬合噪聲;過大則可能是正則化太強或模型不準。這不能在沒有額外假設下唯一決定參數,也不能限制真圖中不可見的分量。報告應記錄參數、殘差,以及結構在合理參數範圍內是否持續存在;噪聲估計應來自量測過程,而非為某張悅目重建辯護。
證明思路
把卷積代入傅立葉和式,令 r=j−ℓ:
Kuk=N−1/2ℓ∑r∑hruℓe−2πi(r+ℓ)k/N=(r∑hre−2πirk/N)(N−1/2ℓ∑uℓe−2πiℓk/N)=Hkuk.週期下標使每個固定的 ℓ 下,r 仍遍歷完整週期。於是以酉變換 F 表示,K=F∗diag(H)F;K 可逆當且僅當所有對角元非零,此時 K−1δfk=δfk/Hk。由於 F 保持範數,
∥K−1δf∥22=k∑∣Hk∣2∣δfk∣2≤mink∣Hk∣2∥δf∥22,當 δf 集中在 ∣Hk∣ 最小的索引時取等號。若要求實擾動,可用相應的正弦、餘弦子空間達到同樣幅值。
目標函數的梯度是 KT(Ku−f)+αu,而非零向量 v 滿足
vT(KTK+αI)v=∥Kv∥22+α∥v∥22>0.因此法方程的矩陣正定,Jα 嚴格凸,駐點是唯一全局極小值。對角化給出頻譜公式。一般矩陣的奇異值 s≥0 對應重建增益 s/(s2+α)。由 (s−α)2≥0 得 s2+α≥2sα,故增益有上述上界;s=0 時增益直接等於零。
證明透視
究竟哪一步修補了逆問題?
兩個證明都把矩陣問題化成純量問題,而第二個與第一個只差一處:直接求逆除以 s,正則化規則則乘以 s/(s2+α)。關鍵是每個方向都有的項 α∥v∥2:即使 K 有不可見方向,它仍使 Hessian 正定,所以存在性與唯一性完全不需要對 K 作假設。增益上界隨後只來自一行不等式 s2+α≥2sα;其等號情況 s=α 是放大最多的模式,很弱的模式不是被放大,而是被壓低。若懲罰改成 ∥Du∥2,唯一性條件便是 kerK∩kerD={0}。假如量測和差分都忽略常數,平滑懲罰也無法辨認背景亮度。
在無誤差的單一頻率,代入 fk=Hkuk† 得重建等於真係數乘以 ∣Hk∣2/(∣Hk∣2+α)。弱傳遞方向被刻意縮小;當 Hk=0,任何參數都不能從這組數據推知該真係數。正則化提供一個被選定的答案,並不證明此答案就是真實拍攝對象。
例題詳解
取 N=4,令 (Ku)j=(uj+uj−1)/2。則 Hk=(1+e−2πik/4)/2,在 k=2 時為零。交替向量 (1,−1,1,−1)T 與零向量產生相同的零觀測。在兩者上加入足夠大的相同常數背景,便得到兩張不同的非負圖像而觀測仍相同。因此非負性也未必恢復唯一性;問題在選擇算法之前已缺少資訊。
設某頻率的實傳遞值為 H=0.01。直接求逆會把 0.001 的量測誤差放大成 0.1。取 α=0.0001,正則化增益為 0.01/0.0002=50,誤差改為 0.05。但真係數若是一,無誤差觀測只有 0.01,重建會是 0.5。噪聲放大減少一半,同時真係數也被縮小一半;只報告較小噪聲而不提偏差會誤導讀者。
例題 1.1.5
(Haar 平均與細節的閾值處理)
對 u=(3,1)T,定義 a=(u0+u1)/2=22、d=(u0−u1)/2=2。逆變換為 u0=(a+d)/2、u1=(a−d)/2,且 a2+d2=10=∥u∥2。保留平均,對觀測細節 z 最小化 21(d−z)2+τ∣d∣,分正、負半軸求導可得 d∗=sign(z)max(∣z∣−τ,0)。零點左右斜率夾住零的條件正是 ∣z∣≤τ。取 z=2、τ=1/2,細節減半,重建為 (2.5,1.5)T,均值不變。
對相鄰像素先成對計算,再對平均值反覆成對處理,便得到長度為二的冪次時的正交 Haar 多尺度基。細尺度係數比較相鄰像素,粗尺度係數比較較長區間的平均。局部邊緣有時因此比全局正弦展開更簡潔,但這不代表任意圖像都有少量非零係數。抽取式 Haar 變換亦對平移敏感:移動一條邊緣,可能改變多個尺度的係數。
概念視角分析
變換量測,還是變換圖像模型?
奇異向量座標把二次復原拆成逐一決定量測係數可信程度的純量問題。週期卷積的傅立葉基正是這種座標。Haar 基則可能使「多數局部細節很小」的圖像假設較合理。前者簡化量測算子,後者簡化先驗描述,兩種用途不應混為一談。
週期差分的頻譜平方幅值是 4sin2(πk/N)。因此差分 Tikhonov 模型的分母變成 ∣Hk∣2+4αsin2(πk/N)。常數模式沒有懲罰,但正規化模糊有 H0=1,仍可辨認常數。若某模式的兩項同時為零,公式便無定義,且解不唯一;必須另加資訊或明說選解規則。
常見錯誤
反例模式
殘差較小不一定更接近真圖
取 K=diag(1,ε)、0<ε≪1,真圖為零,數據 f=(0,δ)T 全是誤差。直接求逆的殘差為零,重建誤差卻是 ∣δ∣/ε。零重建的殘差為 ∣δ∣,重建誤差反而為零。殘差量度與觀測的吻合,也會獎勵對噪聲的擬合。
以下三個錯誤關乎正向模型,而不是求解器。
傳遞函數是未正規化的和 Hk=j∑hje−2πijk/N。取 N=4、h=(1/2,1/2,0,0),h 在 k=0 的酉變換為 4−1/2=1/2,而 H0=1。若代入酉係數,每個模式都會多乘 N−1/2,使保持常數的模糊看似把所有亮度減半。
零傳遞值破壞唯一性:任何參數都不能恢復該係數。小而非零的值保留唯一性,但非常敏感,例如放大例題中 H=0.01 時增益為 100。兩種情況的結論不同:前者關乎資訊,後者關乎穩定性。
週期卷積並不表示亮的右邊緣可以繞接到暗的左邊緣。在 N=4 上取 (Ku)j=(uj+uj−1)/2 與 u=(0,0,0,1),模型預測 (Ku)0=(u0+u3)/2=1/2:右邊緣的亮度出現在左邊。若相機並未看到這一點,差異便是正向模型的錯誤,而非重建求解器失誤。
二次擬合適合某種誤差幾何;脈衝誤差、依亮度而變的計數誤差可能需要其他擬合項。非負約束亦會改變最優條件,無約束的頻譜公式未必符合它。視覺上較悅目的結果值得研究,但不能代替對模型、參數及數值誤差的檢查。
總結
傅立葉座標將週期卷積對角化。零傳遞值使資訊不可辨認,小傳遞值使直接求逆不穩定。二次正則化用有界濾波取代除法,但會帶來可計算的偏差。Haar 平均與細節提供另一種多尺度表示,並自然導出軟閾值法。邊界、懲罰與擬合項都是模型的一部分,應與重建結果一同交代。
練習
練習 1.1.6
(對實數、總和為一的模糊核,證明 H0=1 及 HN−k=Hk。說明實數據的正則化重建為何仍是實數。)
基礎證明
解答(3)
1在零頻率求值
k=0 時所有指數都等於一,故 H0=j∑hj=1。
2對傳遞和取共軛
Hk=j∑hje2πijk/N=j∑hje−2πij(N−k)/N=HN−k。
依據: 核的元素 hj 是實數。
3把濾波作用於實數據
實數據滿足 fN−k=fk。濾波因子 Hk/(∣Hk∣2+α) 在 k 與 N−k 取共軛值,故重建係數保持這種對稱,逆變換為實數。浮點計算的極小虛部只是捨入效應。
∎
練習 1.1.7
(設 K=diag(1,0),以 D=diag(0,1) 懲罰,求 21∥Ku−f∥2+2α∥Du∥2 的解。再改用 D=diag(1,0),描述全部解。)
核心
解答(3)
1第一種懲罰
目標是 21(u1−f1)2+21f22+2αu22,唯一解為 (f1,0)T。量測與懲罰的零空間只交於零。
2第二種懲罰
目標是 21(u1−f1)2+21f22+2αu12,因此 u1=f1/(1+α),而 u2 任意。
3比較
第二種情況下,量測與懲罰都看不到第二方向;聯合零空間條件失敗,最優化無法製造缺失的條件。
練習 1.1.8
(某模式有 ∣H∣=1/2,取 α=1/4,求無誤差縮小因子與重建增益的幅值。兩者比較甚麼不同量?)
基礎
解答(3)
1縮小因子
∣H∣2/(∣H∣2+α)=(1/4)/(1/4+1/4)=1/2。
2增益
由觀測係數到重建係數的增益幅值為 ∣H∣/(∣H∣2+α)=(1/2)/(1/2)=1。
3區分
前者比較重建與真係數,後者比較重建與量測係數,兩者相差正向傳遞因子 ∣H∣。
練習 1.1.9
(計算 (4,0)T 的 Haar 係數,保留平均,將細節以 τ=2 軟閾值化。重建並檢查均值與平方誤差。)
基礎
解答(3)
1變換
a=d=4/2=22。
2閾值處理
軟閾值後細節為 22−2=2,平均仍為 22。
3重建與檢查
逆變換給出 u0=(22+2)/2=3、u1=1,即 (3,1)T。兩向量的均值都是二,平方誤差為 (3−4)2+(1−0)2=2。這是指定向量的確定性計算,並未自動給出統計風險保證。