动机
拍摄的图像可能部分区域清晰,其他区域却因运动或失焦而模糊。锐化是一个推断问题:观测所得的像素未必能唯一确定原始场景,而很小的测量误差也可能造成很大的重建误差。矩阵模型有助于区分已知的正向成像过程与反推时加入的假设。
本单元用线性强度的灰度小例子说明,不是完整的成像流程。前面章节的几何变换及 HDR 获取处理成像的不同环节;本章研究已知模糊的反演。
正向模糊与可辨识性
定义 2.1.1
(线性观测模型)
设 为未知图像, 为已知模糊及采样算子,测量为 ,其中 是误差。候选重建 的数据残差为 ;残差度量的是与此模型的一致程度,不一定是与未知 的误差。
若 有非零核向量 ,图像 和 会产生相同的无噪声观测。只使用 的算法若无额外信息,不能区分两者。即使 可逆,很小的奇异值也表示某些图像变化被弱观测;反转其衰减会放大测量误差。算子必须包含边界约定、采样及单位;错误的正向模型可能使看似精确的结果不可靠。
反例模式
相同观测可以隐藏不同图像
令 。 和 都产生 ,其差 属于核。因此残差为零不能辨认原图像;重建规则可以选一个解,却无法凭空取回观测中缺失的信息。
二次正则化
定理 2.1.2
(唯一的正则化估计)
给定 、观测 及 ,最小化
其唯一最小化解满足
证明
(正定性与配方)
令 。对每个非零向量 ,
故 是正定的,即使 奇异也是如此。特别地, 蕴含 ,从而 ,所以 可逆,正规方程 恰有一个解。
展开 ,并利用 ,对每个 得
当 时最后一项严格为正。因此 是唯一的全局最小解,而任何最小解都必须满足正规方程。
证明透视
为何惩罚项使系统可逆
假设 只用在一处:把仅为非负的 变成严格为正的二次型。没有它,只要 有核向量, 就是奇异的,正规方程有整条直线或整个平面的解,最小解不唯一;前面反例中的矩阵就是这种情形。
证明中唯一不显然的一步,是恒等式 。它用代数论证代替微积分论证:由于 满足正规方程,交叉项相互抵消,无须再做二阶导数检验。论证之所以能收尾,是因为正定二次型只在 处为零。唯一性属于这个目标函数,并不一定属于未知的真实图像。
较大的 更偏好小范数,可能抹去真实对比;正则化太弱则可能放大噪声。其他惩罚项表达不同假设,例如偏好平滑或稀疏梯度。若惩罚为 ,唯一性要求 ;梯度惩罚具有非零核,单靠它并不足够。非负或有界像素需要明确的约束问题,无约束公式不会自动保证。
概念视角代数
正则化即扩大了的最小二乘系统
把数据项与惩罚项叠在一起:。这是一个普通的最小二乘问题,其正规方程恰好是 。对每个 ,它的系数矩阵零空间都是平凡的,因为 迫使 。因此惩罚项相当于额外的方程,断言 接近 ,并以 加权。
常见错误
(平滑惩罚本身不保证唯一性)
取 及差分惩罚 。 与惩罚都只依赖 ,所以 与 的代价完全相同。最小解不唯一,因为 ,即 。惩罚必须作用在 看不到的方向上。
两像素模糊计算
例题 2.1.3
(反演与正则化结果)
令
等值方向 的特征值是 ,差值方向 的特征值是 。精确反演得 :完全拟合,但有一个负像素。取 ,
故正则化解为 。惩罚缩小了对比,却未保证非负。若 扰动 ,无正则化反演会改变 :差值模式的误差增大一倍。
例题 2.1.4
(逐个模式看同一个估计)
因为 对称,可用标准正交向量 与 ,其特征值为 、。对 ,坐标为 。正则化估计把每个坐标乘以 ;取 时,这两个因子是 与 。于是
与矩阵计算一致。响应较小的 模式只被放大 倍,而不是无正则化的 倍,所以差值模式的噪声增长较少。
例题 2.1.5
(奇异模糊:惩罚项选出最短的解)
对 及 ,每个图像 都精确拟合。此处 ,,所以正规方程为
由对称性, 且 ,即 。当 时它趋向 ,即范数最小的精确解(范数为 ,而 的范数为 )。惩罚项是在无法区分的图像之间做选择,并没有取回真实图像。
常见错误
(以最小残差来选择惩罚强度)
残差不能用来选 。对两像素模糊及带噪声测量 ,精确反演 的残差为 ,却与无噪声重建 相差 。令 总会减小残差,所以仅以残差最小为准,会选出正则化最弱、对噪声最敏感的估计。
频率解释与假设
在有限周期网格上,空间不变的循环模糊可在离散傅里叶(Fourier)基中对角化。以变换 写成 ; 是所选变换约定下的模糊响应。只有 才能除以它;零响应移除了该频率,很小的响应则可能大幅放大噪声。循环边界是此结论的一部分;裁剪、空间变化模糊或其他边界规则需要不同的算子。
命题 2.1.6
(频域中的正则化估计)
设 为酉矩阵,,其中 为复数,且 。以 与 表示 的最小解及数据的变换。则逐频率有
证明
(把正规方程对角化)
正规方程为 ,其中 。由于 ,得 。把方程左乘 ,得 。每个对角元 都是正数,逐坐标相除即得所述公式。
共轭出现是因为复数乘子 的伴随是乘以 。即使 分母仍为正,但此时零估计是惩罚项选出的,不是从数据取回的信息。对实图像,使用一致的共轭对称变换约定,除数值舍入外可得到实数重建。
选择与评估模型
保留的测量数据、已知噪声界或清楚记录的先验,可以帮助选择 ;单凭图像好看不能证明其准确。可比较预测观测 与 ,检查结果对 和边界模型的敏感度,并记录是否施加强度约束。残差远小于预期噪声水平可能意味着拟合了噪声,但本身不是过拟合的证明。若模糊核未知,同时估计模糊核与图像是另一个通常更不确定的问题。
习题
快速检查
(对上述两像素模糊,计算 ,并解释反演如何改变测量误差 。)
向量 是差值方向。
解答 · 答案
。反演把此模式放大一倍,故误差变成 。
快速检查
(对同一 与 ,验证 时 满足正规方程。它是非负图像吗?)
把矩阵 乘以该向量。
解答 · 答案
直接相乘得 。第二个分量为负;目标函数没有加入非负约束。
快速检查
(在酉频率公式中,若 ,估计是多少?为什么这不能证明真实频率系数为零?)
把 代入公式。
解答 · 答案
公式给出 。观测中没有来自该模式的贡献,因此零是惩罚所选;真实系数可以不同。
练习 2.1.7
(令 、。列出所有精确解,并求 时 的最小解。)
核心
解答(3)
- 1
描述精确解
恰在 时等于 ,而 任意。全部精确解为 ,其中 任意。
- 2
用坐标写出目标函数
它分成一个只含 的函数,加上 一项。
- 3
逐个坐标最小化
令该导数为零,得 。唯一最小解为 。
依据: 只在 时最小,而 的部分是严格凸二次函数,导数为 。
延伸学习
盲去模糊、非二次先验、约束优化、非均匀噪声与物理传感器模型均需进一步分析。本单元没有提供生产用的去模糊实现,也不保证其假设适用于某张照片。