Fourier 投影之所以有效,是因为误差垂直于每个保留的频率。这种几何并不专属于振荡函数,而存在于每个完备内积空间。认清这个几何结构后,我们就能解决闭子空间中的最佳逼近问题,用向量表示连续线性测量,并区分一个标准正交族与真正完整的坐标系统。
以下始终要留意两个假设。可行集必须闭,极限中的最小点才仍然可行;环境内积空间必须完备,极小化 Cauchy 序列才确实有极限。形式上算出几个垂直方向,不能代替这两个条件。
内积几何与约定
设 是实或复 Hilbert 空间,即完备的内积空间,范数为 。我们约定内积对第一个变量线性,对第二个变量共轭线性。因此
第二个恒等式是平行四边形等式,展开两边平方即可得到。以下使用 Cauchy–Schwarz 与三角不等式:它们分别可由对 求最小值和展开平方来证明,建立它们不需要投影定理。
定义 2.4.1
(距离、凸性与正交补)
对非空集 ,记 。若集合包含其任意两点之间的整条线段,就称它为凸集。对线性子空间 ,定义
这是闭线性子空间,因为每个条件都是关于 的一个连续线性泛函的零点集。原来的子空间不一定闭;凡是需要闭性的地方,我们都会明确说明。
到闭凸集的最佳逼近
定理 2.4.2
(闭凸集上的投影)
若 非空、闭且凸,则每个 都有唯一的最近点 。它由下列条件刻画:
若 、,则
在实空间中可省略实部符号。
证明
(极小化序列是 Cauchy 序列)
令 ,选 使 。因为中点仍属于 ,平行四边形等式给出
右端趋于零。由完备性,该列有极限 ;由闭性,;再由范数连续性,。对两个最小点使用同一不等式,便得唯一性。
为证明刻画条件,当 时,点 属于 。最小性说明
除以 ,再令 ,就得到所述不等式。反过来,若该不等式对每个 都成立,展开平方可得 ,故 是唯一最小点。
为证明稳定性,在关于 的不等式中取 ,在关于 的不等式中取 。把两个不等式相加并整理,得到 。Cauchy–Schwarz 给出范数估计;当 时无需相除,结论也直接成立。因此,凸集投影是稳定的,但不一定线性。
证明透视
中点把极小化转化为 Cauchy 性
在无限维空间中,有界的极小化序列未必具有收敛子列。这个证明没有假设这种紧致性,而是利用中点仍可行和平行四边形等式,迫使任意两个足够好的候选点彼此接近。完备性再提供共同极限。这正是 Hilbert 几何能够在有限维紧致性论证不再适用时,仍证明最小点存在的原因。
常见错误
(投影到凸集上并非线性)
只有投影到闭子空间才是线性的。在 中令 。则 且 ,所以 。变分不等式刻画的是最近点;只有当 是子空间,对每个 都有 时,线性才会出现。
闭子空间与垂直分解
定理 2.4.3
(正交投影定理)
对闭线性子空间 ,有
所以每个 都有唯一分解 ,其中 、。映射 线性,满足 和 。若 ,其算子范数为一;否则为零。对任意线性子空间 ,无论它是否闭,都有
证明
(垂直残差及其推论)
对 使用凸集投影定理。由于每个实数 与 都满足 ,变分不等式说明 。在复空间中,再对 使用同一结论,虚部也必须为零。因此 。反过来,由勾股等式,任何这样的分解都是最小化分解。交集 只有零向量,因此分解唯一。
把两个分解相加,或者乘以标量,仍得到同类分解,所以唯一性证明了线性。属于 的向量投影后仍是自己,因而得到幂等性。勾股等式给出
这给出算子范数上界;若 中有非零向量,把它归一化就取到等号。
最后,内积连续性说明 。显然 。若 属于右端,作分解 ,其中 、。于是 ,所以 ,反向包含也成立。特别地,一个张成空间稠密,当且仅当不存在非零向量与它的所有元素垂直。
反例模式
稠密的可行子空间仍可能没有最近点
令 , 为有限支集序列子空间。对 ,截断说明 。但 中没有向量取到这个距离,因为距离为零就必须等于 。该子空间线性且稠密,却不闭。投影到它的闭包会得到 ,但 并不是原问题的可行点。因此,用闭包代替原集合,可能改变下确界是否能取到。
连续线性测量就是内积
记 为 上的有界线性泛函空间,范数为 。这里指连续对偶,而不是完整的代数对偶。
定理 2.4.4
(Hilbert 空间中的 Riesz 表示)
对每个 ,存在唯一的 ,使
在本文约定下,复空间中从 到 的对应是共轭线性的;实空间中则是线性的。
证明
(把垂直于核的向量归一化)
零泛函由零向量表示。若 ,则其核是闭子空间。选取 的 ,并令 。于是 ,且 。取 ,便有 。对每个 ,向量 属于核,因此
所以 给出所求表示。若有两个表示向量,用它们之差与自身作内积,立即得到唯一性。由 Cauchy–Schwarz,;当 时取 ,就得到等号。最后, 由 表示,因为内积的第二变量共轭线性。这把标量约定所产生的共轭明确写出来,而不是藏在记号中。
证明透视
一个垂直方向承载整个泛函
连续性只用了一次:它使 成为闭集,于是用到完备性的投影定理给出一个垂直于核的非零向量 。关键在于核的余维数为一:每个 都分解为 加上核中的向量,故单一方向 记录了 的全部信息。把这个分解与 作内积,就把数值 变成一个内积。
标准正交族与真正的基
定义 2.4.5
(标准正交族与标准正交基)
若当 时 ,而其余情形为零,就称族 标准正交。若其闭张成空间为整个 ,就称它为标准正交基。这不是 Hamel 基:这里允许无穷的范数收敛展开,不局限于有限的代数线性组合。
对任意指标集上的非负数,定义 。空间 就是按此意义平方和有限的标量族。
定理 2.4.6
(正交展开与完备坐标)
对标准正交族,令 。则
每个固定向量的非零系数至多可数,级数依范数收敛,且与这些系数的排列次序无关。下列条件等价:该族是基;其垂直空间为零;每个向量都等于所示级数;每个向量都满足 Parseval 等式。若它是基,则系数映射是从 到 的线性等距双射。
证明
(先取有限子和,再沿有限集取极限)
对有限集 ,令 。直接使用正交性,得到
所以系数平方和不超过 。对每个正整数 ,模长至少为 的系数只能有有限个,否则有限部分和就可任意大。这些有限集的可数并包含了所有非零系数。把该支集列举出来。由正交性,两个部分和之差的范数平方等于相应的系数尾和。因此部分和是 Cauchy 序列,由完备性得到极限 。
构造结果不依赖列举次序。给定 ,选有限个系数,使其余系数的总平方和小于 。每个包含这些系数的有限部分和,与 的距离都小于 。当 不可数时,这也定义了所写指标级数的意义。 的每个系数都等于 的对应系数,所以 垂直于全部 ;再由连续性,它也垂直于 。投影定理因而给出 。沿按包含关系递增的有限子集 ,有 依范数趋于 ,系数平方和则递增至其定义中的上确界。在有限能量等式中取这个极限,便得到所示余项公式。这是沿有限子集取极限,并非要把不可数指标集列举成序列。
若 ,每个向量的余项都为零,于是得到展开、Parseval 和垂直空间为零。反过来,若每个 都满足 Parseval,余项公式就迫使 ,故 ;若每个向量都等于所述展开,也说明每个向量都属于 。最后,该族与其闭张成空间具有相同的垂直空间。若这个空间为零,正交分解对任意 都没有余项,再次得到 。这证明了全部等价关系。为证明满射,给定 ,同样的有限阈值论证说明其支集可数。相应的正交部分和是 Cauchy 序列,极限向量的系数就是 。若该族是基,唯一性来自“与所有基向量都垂直的向量只有零向量”。Parseval 则给出保范数性质。
常见错误
(不完备的族只有 Bessel,没有 Parseval)
标准正交族总给出 Bessel 不等式,但 Parseval 等式要求这个族是基。在 中, 是标准正交族,但 的每个系数都是零,所以 。缺少的量恰好是定理中的残差 。
为说明基的存在性,对一般 Hilbert 空间,我们明确使用 Zorn 引理作为标准集合论输入。把所有标准正交子集按包含关系排序;这个集合非空,因为它包含空族,也因此涵盖 的情形。链的并仍然标准正交,所以存在极大族。若其闭张成空间不是全空间,投影便给出非零垂直余项,将它归一化后可加入原族,矛盾。反过来,完备的正交族无法再加入一个新的正交单位向量。
在可分空间中还可以直接构造。选一个可数稠密序列,逐一处理:减去它在已经保留的有限个向量张成空间上的投影,若余项非零,就把归一化余项加入。每个已处理的向量都属于该阶段得到的张成空间,因而最终的有限或可数标准正交族具有稠密张成空间。反过来,若有可数标准正交基,取有限个有理系数组合,复情形取实部、虚部均为有理数的系数,就得到可数稠密集。而且可分空间中的每个标准正交族都可数:不同成员相距 ,以它们为中心、半径 的互不相交开球,必须包含可数稠密集中的不同点。
概念视角结构
Fourier 定理仍然必须证明什么?
抽象定理不能证明某个具体的标准正交族的张成空间稠密。应用到 Fourier 分析时,取 ,其中 是归一化 Lebesgue 测度,。这里使用两个标准测度论前提: 是完备的,圆周上的连续函数在 中稠密。它们需要另行证明,不能从上述抽象定理推出。
在这些前提下,可如下理解指数函数的有限线性组合为什么稠密。令 连续,使用有限 Fejér 核
该核非负且积分为一;它与 的卷积是三角多项式。若 ,当 到零的圆周距离至少为 时,。把卷积积分分成近处与远处:一致连续性控制近处误差,而上述界使远处的核质量趋于零,因此卷积一致收敛到 。于是连续函数可由三角多项式依范数逼近,再由连续函数的稠密性推广到整个 。此时抽象定理给出完整指数族的 Parseval 等式和范数重建;这里没有断言普通 Fourier 部分和逐点收敛。
例题
例题 2.4.7
(投影到连续线性约束)
设 属于 , 为标量,约束为 。这个仿射超平面非空,因为 属于它;由泛函连续性可知它闭,由线性可知它凸。它离 最近的点为
确实, 满足约束,而 是 的倍数,垂直于方向空间 。再用勾股等式就得到最小性。这个公式对复标量也成立,因为内积对第一变量线性。它说明连续测量如何同时决定修正方向与修正大小。
例题 2.4.8
(二次函数的最佳一次逼近)
在 中,向量 与 正交,范数平方分别为一与 。对 ,其在这两个向量张成空间上的投影为常数 :余项的积分为零,并垂直于奇函数 。因此
唯一的极小化系数为 、。向量 尚未归一化;一般的系数公式必须除以它的范数平方,或者先把向量归一化。“正交”与“标准正交”是不同条件。
例题 2.4.9
(基不可数,每个向量的支集却可数)
对不可数集 ,空间 连同坐标内积构成 Hilbert 空间。为检验完备性,设 是 Cauchy 序列,且范数不超过 。每个坐标都有极限 。对有限集 取极限,得到 ,所以 。若充分大的 都满足 ,先在每个有限部分和中令坐标趋于极限,再取上确界,便有 。
坐标单位向量构成标准正交基:每个向量都有可数支集,其有限截断尾部依范数趋于零。该空间不可分,因为不可数个坐标单位向量两两相距 。这并不矛盾:每个向量只使用可数个坐标,但不存在一套固定的可数坐标,足以表示所有向量。
练习
快速检查
(对闭球 ,其中 ,证明当 时 ,否则 。若 ,证明这个投影不线性。)
解答 · 答案
球内点的距离为零。对球外点,反向三角不等式说明每个可行 都满足 ,而 取到该界。唯一性来自凸投影定理,也可由已经证明的等号刻画得到。若 是单位向量,则 ,而 ,因此映射不线性。对一般凸约束,稳定性与唯一性并不意味着线性。
快速检查
(在 中,把 投影到 与 的张成空间。说明为什么直接求和 会得到错误答案。)
解答 · 答案
写成 。 垂直于 与 ,给出 和 。所以 ,,误差平方为 。题目中直接相加得到的是 ,并非投影。常用系数公式适用于标准正交族,而这里两向量内积非零,范数平方也都是二。
快速检查
(是否存在 上的有界线性泛函,在每个有限支集向量上都等于 ?分别用范数估计与 Riesz 表示证明你的结论。)
解答 · 答案
令 的前 项都为 ,其余为零。其范数为一,但坐标和为 ,这与任何固定的有界泛函范数都矛盾。另一个证明是:若表示向量为 ,就必须对每个 有 。于是 ,它并不平方可和。有限公式不能自动连续延拓到完备化。
快速检查
(在复空间 上,令 。求其表示向量与范数。在本文约定下,哪个向量表示 ?)
解答 · 答案
序列 Cauchy–Schwarz 保证该级数定义有界泛函。表示向量为 ,因为 。利用 ,得到 。泛函 由 表示,而不是 。这个符号由第二变量的共轭线性决定。
快速检查
(令 配备 范数,在其完备化中取 ,并令 。证明 在 中闭,但 在 中没有最近点。计算距离,并说明投影定理的哪个假设失效。)
解答
由 Cauchy–Schwarz,泛函 在 上有界,因此其核 在那里相对闭。在完备空间 中,有 、,所以到闭超平面 的投影为
这个 并非有限支集:对每个 ,其第 个坐标为 。但它仍可用 中的点逼近:把它截断为 ,再令 。于是 ;由 和 ,可得 。因此,在 上的距离下确界是 。若 中某个向量取到等号,它也必须是完备空间中该超平面上的唯一最小点,即等于 ,不可能。集合在其环境空间中是闭的,但环境空间本身不完备。
精确范围
本节证明了 Hilbert 空间中的最佳逼近、有界泛函表示与标准正交坐标理论,并包括任意指标集。我们没有从任意预内积空间构造 Hilbert 完备化,也没有证明谱定理、发展弱紧致性、处理无界算子,或代替验证某个具体候选基所需的独立稠密性论证。一般的基存在性证明明确使用 Zorn 引理;可分情形的直接构造不需要它。这些是已证明结果的准确边界,而不是用“基”这个词掩盖的缺口。