动机
图像同时含有不同距离的变化:相邻像素可能跨越边缘,大区域之间也可能有平均亮度差。只列像素值会掩盖这种结构。Haar 变换先记录局部平均与差异,再对平均反复作相同运算,使每个系数有明确的位置和尺度。在删除系数前,整张图像可以精确还原。
可逆变换没有减少数字的总数,也没有自行压缩或去噪。真正的近似始于删除或量化系数。正交性使这些操作造成的误差可精确计算,却也揭示限制:白噪声的总能量并不因正交变换而减少。去噪依赖图像在某些系数上的结构,而非坐标转换的魔法。本节选用边长为二的幂次的有限数组,避免未说明的补点或边界延拓。
定义
定义 4.1.1
(离散 Haar 变换)
对一对像素,定义归一化平均和差异
这里平均系数不是算术平均,其归一化是为了保持长度。对偶数长向量逐对操作,得到平均向量和细节向量。若 ,只对平均向量继续递归,直至剩下一个粗系数。依“最粗平均、由粗到细的细节”排列结果,记成 。其他存储顺序亦可用,但必须明说。
合成反向进行,每对使用 、。各层长度形成等比级数,因此分析与合成的运算量均与 成正比,所有细节只存储一次所需的空间亦如此。
对 图像矩阵,完整可分离变换为 ,即先逐列再逐行变换。另一种常见二维金字塔每层先在两方向各作一次配对,只递归处理低低频块。四个块分别表示平均—平均、平均—差异、差异—平均与差异—差异。两种构造都正交,但递归排列不同;在二乘二例题中两者一致。
定义 4.1.2
(硬阈值与软阈值)
硬阈值把幅值不超过 的系数设为零,其余保留。软阈值则是 。若要保持整体均值,可只处理细节、保留最粗平均;若所有系数一起处理,便没有同样的亮度保证。
定理 / 命题
定理 4.1.3
(正交性、精确合成与最佳固定基近似)
有限 Haar 矩阵满足 ,所以 ,并有
在此固定基中,至多保留 个非零系数的最佳平方误差近似,可取幅值最大的 个原系数。误差平方正是全部舍弃系数的平方和;相同幅值可能使最佳支集不唯一。
定理 4.1.4
(高斯白噪声与同时阈值界)
若 ,噪声分量独立且服从 ,,则任意实正交变换后的噪声仍独立且有相同分布。对观察噪声数据前已固定的 个细节系数下标及 ,取
则至少以概率 ,所有这些噪声系数的幅值都不超过 。
此概率事件只控制噪声,不宣称所有大观测系数都是真信号,亦不宣称小真细节不存在。真系数可能被删除,保留者也可能受噪声与收缩偏差影响。这不是最佳统计风险或精确复原定理,模型本身是否适合数据仍须检查。
证明思路
证明
(正交配对映射的乘积与交换论证)
配对矩阵 直接满足 。一层变换由互不重叠的这些区块与重新排列组成,故正交。下一层只对平均坐标作另一个正交映射,细节坐标保持不动。正交矩阵的乘积仍正交,从而得到还原与范数公式。二维情形逐行逐列应用相同结论,得到 Frobenius 范数保持。
固定支集后,每个保留坐标的最佳值就是原系数,剩余误差为未保留能量。若支集内有较小幅值而外面有较大幅值,交换两者可降低误差;反复交换便得到最大幅值规则。此最优性只在指定正交基内成立,并未比较所有可能的图像表示。
正交性消除了不同舍弃方向之间的交叉项,所以不必重建图像,只要把舍弃系数的能量相加就能评估一个近似。若改用冗余或非正交系统,这个等式一般不再成立,须改用相应的合成算子及稳定性界。第二个定理同样依赖正交性,只是这次作用在概率密度上。
反例模式
保留最大系数需要正交基
断言:在任何基下,保留最大的系数都是最佳做法,而误差等于舍弃系数的能量。在 取 、 及 。保留较大的系数得 ,平方误差为 ,而不是预测的 。改为保留 ,误差为 ;两个都舍弃,误差只有 。没有正交性,交叉项就会保留下来,系数大小不再能衡量近似的好坏;修正正是假设 。
证明
(高斯密度的旋转不变性与并集界)
高斯(Gauss)密度正比于 。正交变换保持范数与雅可比(Jacobi)行列式绝对值,故新密度仍分解成相同的一维高斯乘积。这同时证明方差相同和独立性;一般非高斯误差只有协方差保持,不能因此推论独立。
标准高斯的矩生成函数及指数界给 ()。对 亦然,然后对 个系数取并集界,得到超过阈值的概率至多 。最后这一步只需各分量的尾界,不依赖彼此独立。
证明透视
噪声界的每一步用了哪个假设
这个界有三个组成部分,每个假设恰好在其中一处使用。 的正交性通过密度进入: 及 使分解的高斯形式保持不变。高斯性把“不相关且方差相同”(任何正交映射作用于有限方差白噪声都会给出)提升为“独立且服从 ”。尾界只用到每个变换后坐标服从 ,借助其矩生成函数并把指数参数取为 。
决定阈值的是并集界,而它完全不需要独立性:某个系数超过 的概率不超过 个边缘概率之和,所以 只像 那样增长。“下标须在看到数据之前固定”这个要求也在这里用到。若先观察数据再选取集合,例如选观测值最大的系数,所界定的事件就不再是 个固定边缘事件的并集,上述计算也不再适用。
例题详解
例题 4.1.5
(完整四像素分析与合成)
对 ,第一层平均为 ,细节为 。再变换平均,得最粗平均八、粗细节负四,故系数为 。其平方和 等于原像素平方和。只保留两个粗系数,重建为 ,误差平方为四,正好等于两个舍弃细节的能量。图像每对被换成算术平均,但存储的平均系数仍有平方根归一化。
例题 4.1.6
(明确的二维图像数组)
取 ,则
左上系数等于全部像素和除以二,故系数是六而均值是三。右上比较两列、左下比较两行,方向名称须配合约定。保留粗系数,对细节以 软阈值化,得 ,逆变换为 。均值仍为三,误差平方为八。
例题 4.1.7
(概率阈值并非确定的信号识别)
取 、、,阈值为 。至少以概率零点九,全部八个噪声细节都在此范围。可是若某真细节为二而噪声恰为零,阈值操作仍会删去它;这与有利的噪声事件完全相容。大观测值亦可同时包含信号和噪声。此事件同时控制所有噪声,却不会把每个观测系数判为真或假。软阈值更会对保留细节扣减幅值,因此有刻意的收缩偏差。
软阈值是 的唯一极小解。分正、负半轴求导,零点使用次梯度区间,便得上述公式。逐坐标处理可解可分离的系数惩罚问题;因变换正交,逆变换后就是带有小波系数一范数惩罚的图像解。若只惩罚细节,粗坐标保持不变。
概念视角分析
保持噪声能量与成功去噪并不矛盾
长度为 的向量若有独立、方差为 的噪声,变换前后期望平方范数均为 ; 图像则为 。若真图的有效信息集中在少量或有结构的系数,便可抑制其他系数来换取较好估计。收益来自信号结构及决策规则,不是可逆坐标转换已减少噪声。
常见错误
反例模式
平移图像不等于简单平移系数
向量 的最细 Haar 差异全为零,一像素循环平移成 后,两个最细差异都非零。因此抽取式变换不具平移不变性,虽然仍保持能量并可精确还原。位置改变可以把系数重新分配到不同尺度。未抽取构造可以改善平移行为,但会引入冗余,必须重查近似误差公式。
硬阈值在分界处不连续,系数从略低于阈值移到略高于阈值,可造成有限的输出跳跃。软阈值连续且不扩张,因为其分段线性斜率介于零与一之间。两者都不构成完整的统计风险比较。
常见错误
(把最粗系数当成平均亮度)
归一化平均 是该对像素算术平均的 倍,而且这个因子逐层累积:长度为 的向量,其最粗系数是均值的 倍。对 ,最粗系数为 ,均值却是 ;上面的二乘二图像则是 对 。为显示亮度而重新缩放粗图像时,应在副本上进行,不能覆盖存储的归一化系数。
常见错误
(把不相关噪声当作独立噪声)
协方差为 的白噪声经正交变换后,协方差仍为 ,所以系数保持不相关,但未必保持独立。若 独立且各以概率 取 ,配对系数 与 不相关,但在每个结果中恰有一个为零。噪声定理中的独立性结论依赖高斯密度;只要每个系数仍满足高斯尾界,并集界那一步在相关情形下依然成立。
常见错误
(在有损步骤之后才检查精确重建)
软件须记录边界延拓、不等的维数、量化方式与系数顺序。精确重建的检查应在任何阈值处理或量化之前、用未改动的系数进行;否则索引错误容易被误认为预期的近似误差。
总结
有限 Haar 分析以线性运算量建立正交多尺度坐标,合成精确反向还原。二维行列变换与低低频递归形成不同安排的图像表示。正交性把近似误差化为舍弃能量,并保持高斯白噪声的联合分布。阈值操作是一项有偏、依赖图像结构的决策,其概率与稳定性结论都有明确范围。
练习
练习 4.1.8
(按由粗到细的顺序变换 ,只保留最粗系数,求重建结果与误差平方。)
基础
解答(3)
- 1
计算第一层
配对 和 给出平均 及细节 。
- 2
计算最粗一层
两个平均给出最粗平均 及最粗细节 ,所以系数为 。
- 3
重建并度量误差
只保留最粗值 ,先得第一层平均 ,再得 。误差平方为 ,等于舍弃的两个细节的平方和;为零的最粗细节没有贡献。
练习 4.1.9
(对每个像素均为 的二乘二图像,求全部系数,并说明最粗系数与平均亮度之间的归一化关系。)
基础
解答(2)
- 1
计算系数
此时 :所有差异为零,最粗系数是像素和 除以 。
- 2
与均值比较
正交性要求平方范数 与四个值为 的像素相同。这里最粗系数是均值的两倍。对 图像,归一化常数基图像的每个元素为 ,所以最粗系数是均值的 倍。
练习 4.1.10
(证明实数软阈值不扩张,并推出正交分析、固定阈值的逐坐标软阈值与合成三者的复合在欧氏(Euclidean)范数下不扩张。)
核心证明
解答(3)
- 1
利用分段结构
在以 和 分开的三个区间上, 单调不减,斜率为 或 ,且各段连续衔接。
- 2
比较两个自变量
关键一步
设 ,在 所含的分界点处把它拆开。每一段上输出的增量介于零与输入增量之间,所以 。
- 3
推广到向量
∎对每个坐标把标量不等式平方再求和,得 。分析与合成都是正交的,保持两边的范数,故复合映射不扩张。
练习 4.1.11
(取 、、,写出精确的同时阈值。若变换后的误差彼此相关,但各自仍满足相同的单变量高斯尾界,概率证明有何改变?)
核心
解答(3)
- 1
计算阈值
。
- 2
检查并集界
并集界只用到每个系数的边缘尾界,所以相关性不会使它失效;只有一个系数时更谈不上相依性。
- 3
指出失去的结论
对边缘尾界相同的较大集合,即使存在相依性,同一同时界仍然成立。失去的只是“变换后系数彼此独立”这个另外的结论,它需要正交高斯的设定。