动机
模糊照片并非随意失去一些细节。成像装置先混合邻近位置的亮度,再引入误差。图像复原要由观测反推原图:正向计算通常容易,但逆向计算可能把微小的测量误差放大成明显振荡。因此,“矩阵有逆”和“能稳定重建”是两个不同问题。本节以有限维模型说明其差别。这些计算旨在解释一个数学机制,而不是规定一套通用的成像流程。
周期边界使频谱计算精确而清楚,但不代表真实照片的左右边缘相接。把数学模型用于数据前,必须选定边界延拓、采样方式及误差模型。傅里叶(Fourier)坐标将平移不变的模糊分解成独立方向;Haar 坐标则把图像拆成平均值与局部差异。两种坐标都不能创造观测中不存在的信息,它们只是分别揭示测量与图像假设的结构。
定义
以 u∈RN 表示一维图像,下标按模 N 计算。二维情形可沿两个坐标作相同定义。核 h∈RN 定义圆周卷积
(Ku)j=ℓ=0∑N−1hj−ℓuℓ,f=Ku+η.
f 是观测,η 是未知误差。若核非负且总和为一,每个输出就是邻近亮度的加权平均,而且常数图像不变。以下代数只需要卷积公式,并不必然要求核非负。即使物理亮度非负,无约束的线性重建仍可能产生负数;若要施加非负约束,须另行分析最小化问题。
采用酉离散傅里叶变换
uk=N−1/2j=0∑N−1uje−2πijk/N.
逆变换的指数符号相反,系数仍是 N−1/2。定义传递函数 Hk=j∑hje−2πijk/N;注意这是核的未归一化变换。因此 Kuk=Hkuk,不再额外出现 N。酉性表示变换前后的欧氏(Euclidean)范数相等。实图像的频谱有共轭对称性,不能把正负频率当成互不相关的任意复数。
对 α>0,二次 Tikhonov 复原最小化
Jα(u)=21∥Ku−f∥22+2α∥u∥22.
第一项量度数据拟合,第二项抑制重建能量。惩罚的选择是一项建模假设,不是由测量方程自动推出的。若改用差分惩罚 ∥Du∥2,其中 (Du)j=uj+1−uj,则常数位于其零空间,整体亮度与振荡会受到不同处理。
定理 / 命题
圆周卷积满足 Kuk=Hkuk。它可逆当且仅当所有 Hk 非零。可逆时,数据扰动满足
∥K−1δf∥2≤mink∣Hk∣∥δf∥2.最小传递幅值对应的频谱方向可达到此界。
对任意实矩阵 K、数据 f 及 α>0,唯一极小解是
uα=(KTK+αI)−1KTf.若 K 是圆周卷积,则
uα,k=∣Hk∣2+αHkfk.数据到重建的算子范数至多为 1/(2α)。
最后的界只描述固定参数下对数据误差的敏感度,并不是相对未知真图的总误差界。增大参数虽可降低敏感度,也可能抑制真正的细节。评估复原时必须同时考虑误差放大与惩罚带来的偏差。
若已知误差界 ∥η∥≤δ,可把残差与此尺度比较。远小于预期误差的残差可能表示拟合噪声;过大则可能是正则化太强或模型不准。这不能在没有额外假设下唯一决定参数,也不能限制真图中不可见的分量。报告应记录参数、残差,以及结构在合理参数范围内是否持续存在;噪声估计应来自测量过程,而非为某张悦目重建辩护。
证明思路
把卷积代入傅里叶和式,令 r=j−ℓ:
Kuk=N−1/2ℓ∑r∑hruℓe−2πi(r+ℓ)k/N=(r∑hre−2πirk/N)(N−1/2ℓ∑uℓe−2πiℓk/N)=Hkuk.周期下标使每个固定的 ℓ 下,r 仍遍历完整周期。于是以酉变换 F 表示,K=F∗diag(H)F;K 可逆当且仅当所有对角元非零,此时 K−1δfk=δfk/Hk。由于 F 保持范数,
∥K−1δf∥22=k∑∣Hk∣2∣δfk∣2≤mink∣Hk∣2∥δf∥22,当 δf 集中在 ∣Hk∣ 最小的索引时取等号。若要求实扰动,可用相应的正弦、余弦子空间达到同样幅值。
目标函数的梯度是 KT(Ku−f)+αu,而非零向量 v 满足
vT(KTK+αI)v=∥Kv∥22+α∥v∥22>0.因此法方程的矩阵正定,Jα 严格凸,驻点是唯一全局极小值。对角化给出频谱公式。一般矩阵的奇异值 s≥0 对应重建增益 s/(s2+α)。由 (s−α)2≥0 得 s2+α≥2sα,故增益有上述上界;s=0 时增益直接等于零。
证明透视
究竟哪一步修补了逆问题?
两个证明都把矩阵问题化成标量问题,而第二个与第一个只差一处:直接求逆除以 s,正则化规则则乘以 s/(s2+α)。关键是每个方向都有的项 α∥v∥2:即使 K 有不可见方向,它仍使 Hessian 正定,所以存在性与唯一性完全不需要对 K 作假设。增益上界随后只来自一行不等式 s2+α≥2sα;其等号情形 s=α 是放大最多的模式,很弱的模式不是被放大,而是被压低。若惩罚改成 ∥Du∥2,唯一性条件便是 kerK∩kerD={0}。假如测量和差分都忽略常数,平滑惩罚也无法辨认背景亮度。
在无误差的单一频率,代入 fk=Hkuk† 得重建等于真系数乘以 ∣Hk∣2/(∣Hk∣2+α)。弱传递方向被刻意缩小;当 Hk=0,任何参数都不能从这组数据推知该真系数。正则化提供一个被选定的答案,并不证明此答案就是真实拍摄对象。
例题详解
取 N=4,令 (Ku)j=(uj+uj−1)/2。则 Hk=(1+e−2πik/4)/2,在 k=2 时为零。交替向量 (1,−1,1,−1)T 与零向量产生相同的零观测。在两者上加入足够大的相同常数背景,便得到两张不同的非负图像而观测仍相同。因此非负性也未必恢复唯一性;问题在选择算法之前已缺少信息。
设某频率的实传递值为 H=0.01。直接求逆会把 0.001 的测量误差放大成 0.1。取 α=0.0001,正则化增益为 0.01/0.0002=50,误差改为 0.05。但真系数若是一,无误差观测只有 0.01,重建会是 0.5。噪声放大减少一半,同时真系数也被缩小一半;只报告较小噪声而不提偏差会误导读者。
例题 1.1.5
(Haar 平均与细节的阈值处理)
对 u=(3,1)T,定义 a=(u0+u1)/2=22、d=(u0−u1)/2=2。逆变换为 u0=(a+d)/2、u1=(a−d)/2,且 a2+d2=10=∥u∥2。保留平均,对观测细节 z 最小化 21(d−z)2+τ∣d∣,分正、负半轴求导可得 d∗=sign(z)max(∣z∣−τ,0)。零点左右斜率夹住零的条件正是 ∣z∣≤τ。取 z=2、τ=1/2,细节减半,重建为 (2.5,1.5)T,均值不变。
对相邻像素先成对计算,再对平均值反复成对处理,便得到长度为二的幂次时的正交 Haar 多尺度基。细尺度系数比较相邻像素,粗尺度系数比较较长区间的平均。局部边缘有时因此比全局正弦展开更简洁,但这不代表任意图像都有少量非零系数。抽取式 Haar 变换亦对平移敏感:移动一条边缘,可能改变多个尺度的系数。
概念视角分析
变换测量,还是变换图像模型?
奇异向量坐标把二次复原拆成逐一决定测量系数可信程度的标量问题。周期卷积的傅里叶基正是这种坐标。Haar 基则可能使“多数局部细节很小”的图像假设较合理。前者简化测量算子,后者简化先验描述,两种用途不应混为一谈。
周期差分的频谱平方幅值是 4sin2(πk/N)。因此差分 Tikhonov 模型的分母变成 ∣Hk∣2+4αsin2(πk/N)。常数模式没有惩罚,但归一化模糊有 H0=1,仍可辨认常数。若某模式的两项同时为零,公式便无定义,且解不唯一;必须另加信息或明说选解规则。
常见错误
反例模式
残差较小不一定更接近真图
取 K=diag(1,ε)、0<ε≪1,真图为零,数据 f=(0,δ)T 全是误差。直接求逆的残差为零,重建误差却是 ∣δ∣/ε。零重建的残差为 ∣δ∣,重建误差反而为零。残差衡量与观测的吻合,也会奖励对噪声的拟合。
以下三个错误关乎正向模型,而不是求解器。
传递函数是未归一化的和 Hk=j∑hje−2πijk/N。取 N=4、h=(1/2,1/2,0,0),h 在 k=0 的酉变换为 4−1/2=1/2,而 H0=1。若代入酉系数,每个模式都会多乘 N−1/2,使保持常数的模糊看似把所有亮度减半。
零传递值破坏唯一性:任何参数都不能恢复该系数。小而非零的值保留唯一性,但非常敏感,例如放大例题中 H=0.01 时增益为 100。两种情形的结论不同:前者关乎信息,后者关乎稳定性。
周期卷积并不表示亮的右边缘可以绕接到暗的左边缘。在 N=4 上取 (Ku)j=(uj+uj−1)/2 与 u=(0,0,0,1),模型预测 (Ku)0=(u0+u3)/2=1/2:右边缘的亮度出现在左边。若相机并未看到这一点,差异便是正向模型的错误,而非重建求解器失误。
二次拟合适合某种误差几何;脉冲误差、依亮度而变的计数误差可能需要其他拟合项。非负约束亦会改变最优条件,无约束的频谱公式未必符合它。视觉上较悦目的结果值得研究,但不能代替对模型、参数及数值误差的检查。
总结
傅里叶坐标将周期卷积对角化。零传递值使信息不可辨认,小传递值使直接求逆不稳定。二次正则化用有界滤波取代除法,但会带来可计算的偏差。Haar 平均与细节提供另一种多尺度表示,并自然导出软阈值法。边界、惩罚与拟合项都是模型的一部分,应与重建结果一同交代。
练习
练习 1.1.6
(对实数、总和为一的模糊核,证明 H0=1 及 HN−k=Hk。说明实数据的正则化重建为何仍是实数。)
基础证明
解答(3)
1在零频率求值
k=0 时所有指数都等于一,故 H0=j∑hj=1。
2对传递和取共轭
Hk=j∑hje2πijk/N=j∑hje−2πij(N−k)/N=HN−k。
依据: 核的元素 hj 是实数。
3把滤波作用于实数据
实数据满足 fN−k=fk。滤波因子 Hk/(∣Hk∣2+α) 在 k 与 N−k 取共轭值,故重建系数保持这种对称,逆变换为实数。浮点计算留下的极小虚部只是舍入效应。
∎
练习 1.1.7
(设 K=diag(1,0),以 D=diag(0,1) 惩罚,求 21∥Ku−f∥2+2α∥Du∥2 的解。再改用 D=diag(1,0),描述全部解。)
核心
解答(3)
1第一种惩罚
目标是 21(u1−f1)2+21f22+2αu22,唯一解为 (f1,0)T。测量与惩罚的零空间只交于零。
2第二种惩罚
目标是 21(u1−f1)2+21f22+2αu12,因此 u1=f1/(1+α),而 u2 任意。
3比较
第二种情形下,测量与惩罚都看不到第二方向;联合零空间条件失败,优化无法制造缺失的条件。
练习 1.1.8
(某模式有 ∣H∣=1/2,取 α=1/4,求无误差缩小因子与重建增益的幅值。两者比较的是什么不同的量?)
基础
解答(3)
1缩小因子
∣H∣2/(∣H∣2+α)=(1/4)/(1/4+1/4)=1/2。
2增益
由观测系数到重建系数的增益幅值为 ∣H∣/(∣H∣2+α)=(1/2)/(1/2)=1。
3区分
前者比较重建与真系数,后者比较重建与测量系数,两者相差正向传递因子 ∣H∣。
练习 1.1.9
(计算 (4,0)T 的 Haar 系数,保留平均,将细节以 τ=2 软阈值化。重建并检查均值与平方误差。)
基础
解答(3)
1变换
a=d=4/2=22。
2阈值处理
软阈值后细节为 22−2=2,平均仍为 22。
3重建与检查
逆变换给出 u0=(22+2)/2=3、u1=1,即 (3,1)T。两向量的均值都是二,平方误差为 (3−4)2+(1−0)2=2。这是指定向量的确定性计算,并未自动给出统计风险保证。