作为逼近的坐标
在欧氏(Euclid)空间中,标准正交基用有限个相互独立的坐标来表示向量。在希尔伯特(Hilbert)空间中,坐标可以有无穷多个。这些坐标的有限部分和仍然具有明确的几何意义:每一个部分和都是来自某个有限维子空间的最佳逼近。额外的问题是,随着子空间不断增大,逼近误差是否趋于零。仅凭标准正交系并不能保证这一点;一个向量可以与系中的每个成员都垂直,却仍然非零。
在全文中, 是实或复希尔伯特空间, 对第一个变量线性。我们只考虑有限或可数无穷的系;下面的结果并不假设每个希尔伯特空间都具有可数的标准正交基。
定义 4.1.1
(标准正交序列、系数与部分和)
若对 有 ,对 有 ,则称 中的序列 是标准正交的。对 ,其系数为 ,第 个部分和为
定义 4.1.2
(完备的标准正交系)
闭线性张成 由 的有限线性组合在希尔伯特范数下的极限构成。若 ,则称该系在 中是完备的。
常见错误
(完备系不等于完备空间)
的完备性是赋范空间的性质:Cauchy 序列必收敛。系的完备性是所选向量的性质:它们的闭张成是整个 。希尔伯特空间中的每个标准正交序列都处在完备空间之中,但 中的序列 在那里并不是完备系。两个“完备”在下面的证明中起着不同的作用。
有限维最佳逼近
命题 4.1.3
(部分和是最佳逼近)
对每个 和 , 是 中到 距离最近的唯一的点。此外,
证明
(正交余项与勾股定理)
对 ,由标准正交性得 ,所以余项垂直于 。若 ,由于 , 是正交分解。由勾股定理得
右端恰在 时最小,这就证明了最小点的唯一性。取 ,并由标准正交性展开 ,即得所述恒等式。
这里没有用到任何无穷级数定理。特别地,对任意给定的系数 ,其平方误差等于平方投影误差加上 。内积的约定很重要:若采用对第二个变量线性的另一种约定,则系数应写为 。
例题 4.1.4
( 在 中的最小二乘逼近)
在 上取通常的实 内积,令 ,。由 ,两者范数均为一;又 ,所以两者内积为零。对于 ,
因此在 范数下的最佳仿射逼近为 ,其平方误差为
这使积分平方误差最小,而不是使最大逐点误差最小。 的元素是几乎处处相等意义下的等价类;这里给出的连续代表元使计算更为具体。
贝塞尔不等式与部分和的收敛
定理 4.1.5
(贝塞尔不等式)
对任意 和任意标准正交序列 ,
证明
(非负级数的部分和有界)
由于 ,有限恒等式表明这些非负项的每个部分和至多为 。一个有界的递增实部分和序列收敛,其极限仍至多为 。
贝塞尔(Bessel)不等式还控制着向量和;空间的完备性正是在这里起作用。
定理 4.1.6
(正交展开收敛于投影)
对每个 ,级数 在 的范数下收敛,其和是 在 上的正交投影:
证明
(Cauchy 部分和与正交余项)
若 ,标准正交性给出
由贝塞尔不等式,标量级数收敛,所以当 时右端对 一致地趋于零。因此 是 Cauchy 序列。 的完备性给出极限 。每个 都属于 ,而 是闭的,所以 。对任意固定的 ,当 时余项 垂直于 ;由内积的连续性得 。由线性性, 垂直于 的每个有限线性组合;再由连续性,它垂直于这些组合的极限,所以 。投影定理把 刻画为 中余项垂直于 的唯一向量,故 。
证明透视
三个彼此独立的要素
论证在三个不同的时刻用到三个事实。贝塞尔不等式把标量结论转化为向量结论:尾部恒等式在事先不知道任何极限的情况下说明部分和是 Cauchy 序列。 的完备性只用了一次,用来产生极限 ;在不完备的内积空间中,这个 Cauchy 序列可能无处收敛。 的闭性与内积的连续性再把两个性质传递到极限:属于 ,以及余项垂直于每个 。辨认 不需要进一步计算,因为 中余项垂直于 的向量是唯一的。证明中没有任何一步说 ;这正是系的完备性额外提供的信息。
该等式断言的是范数收敛;当这些向量是函数时,它并不断言逐点收敛。若 是真子空间,则级数收敛于投影,而不一定收敛于 。
定理 4.1.7
(里斯–费舍尔构造)
对每个满足 的标量序列 ,级数 在 中收敛于某个向量 ,且对每个 有 ,又 。 中具有这些系数的元素只有这一个。
证明
(对给定系数重复同一尾部估计)
部分和 对 满足 ,故为 Cauchy 序列,在 中收敛于某个 ,且 属于闭子空间 。当 时 ,由内积的连续性得 ;由范数的连续性得 。若 具有相同系数,则 垂直于每个 ,从而垂直于 ,故 。
唯一性只在 之内成立: 之外的向量也可以具有相同的系数,因为加上 的任意元素并不改变系数。
帕塞瓦尔恒等式与系的完备性
定理 4.1.8
(完备标准正交序列的等价刻画)
对 中的标准正交序列,下列条件等价:
- 它的闭线性张成是 。
- 唯一与每个 都垂直的向量是零。
- 对每个 ,在范数下 。
- 对每个 ,帕塞瓦尔(Parseval)恒等式成立:
证明
(一圈蕴含关系)
上一定理给出 。因此 (1) 蕴含 (3),因为此时 。其次,在有限恒等式 中令 ,得 (3) 蕴含 (4)。若 (4) 成立且 垂直于每个 ,则 ,这证明了 (2)。最后,若 (2) 成立,则向量 垂直于 ,从而垂直于每个 ;因此对每个 它都为零,于是 ,(1) 成立。
对于单个的 ,贝塞尔不等式中等号成立当且仅当 :在有限恒等式中令 ,并利用 ,可知两端之差为 。因此一个不完备的系可能对某些向量满足帕塞瓦尔恒等式,但并非对 的所有向量都满足。
反例模式
缺少一个方向的标准正交序列
要检验的说法是: 中无穷的标准正交序列自动满足帕塞瓦尔恒等式。在 中取标准单位向量 ,并略去 。它们的闭张成是第一个坐标为零的序列所构成的子空间。对 ,每个系数 ()都为零,所以每个部分和都为零,级数收敛于 。帕塞瓦尔恒等式左端为 ,右端为 ,贝塞尔不等式是严格的。修正正是定理的条件 (2):帕塞瓦尔恒等式对每个向量成立,当且仅当没有非零向量垂直于整个系。略去 的系在它自己的闭张成中是完备的,这说明了为什么必须说明所处的空间。
当系完备时,系数就成为 的一套忠实的坐标描述。
概念视角结构
完备标准正交序列作为酉坐标映射
设 是 中的完备标准正交序列,定义 为 。贝塞尔不等式说明 ,而 是线性的。帕塞瓦尔恒等式说明 ,所以 是等距映射,再由极化恒等式得 。里斯–费舍尔(Riesz–Fischer)构造说明每个平方可和序列都是某个 的 ,所以 是满射。因此 是 到 的酉同构,把 映为第 个标准单位向量;用系数计算就是在 中计算。
例题 4.1.9
( 中的标准系是完备的)
对 中完整的标准系 及 ,有 ,所以 把序列截断在第 个坐标之后。于是
这是收敛级数的尾部,根据 的定义趋于零。定理的条件 (3) 成立,所以该系是完备的,并且 。这是直接验证完备性,而不是仅仅由标准正交性推断。
例题 4.1.10
(单个函数的贝塞尔等式:正弦系与常数 )
在实 中,函数 ()是标准正交的:,而 时 的积分为零。对 ,
当 为奇数时等于 , 为偶数时为 。利用 ,
贝塞尔不等式取等号,说明 ,所以 属于正弦系的闭张成 ,其正弦级数在 中收敛于 。这是关于单个向量的结论;这个计算本身并不证明正弦系完备。
常见错误
(范数收敛不是逐点收敛)
在上例中, 在 中收敛于 。由于 ,每个部分和在 处都等于零,所以级数在该点收敛于 而不是 。这并不矛盾: 中的等式是等价类之间的等式,对单个点的取值没有任何断言。
练习与解答
快速检查
(在带有通常内积的 中,令 ,。求 在它们张成中的最佳逼近,以及它到该张成的距离。)
先计算两个系数。
解答 · 答案
系数为 ,所以 。张成是第三个坐标为零的平面。余项为 ,所以距离为 ;验算:。
快速检查
(设 是 中的标准正交序列,并设 (按范数收敛)。求 和 。)
先确定 的系数。
解答 · 答案
由里斯–费舍尔构造,,且 。余项为 ,所以 。
快速检查
(在 中只使用 。刻画使贝塞尔不等式取等号的向量。)
计算 减去各系数平方之和。
解答 · 答案
的系数是 ,所以两端之差为 。等号恰对第一个坐标为零的序列成立,也就是对闭张成中的向量成立。
快速检查
(为什么当系完备时,对每个 都有 蕴含 ?并在系不完备时给出反例。)
利用张成的稠密性与内积的连续性。
解答 · 答案
若 垂直于每个 ,由线性性它垂直于这些向量的张成,再由连续性垂直于其闭包;当系完备时闭包就是 。特别地 ,故 。对 中的系 ,向量 垂直于所列出的每个向量。