为什么要考虑整个事件序列?
描述的是某一个时刻,单凭它不能告诉我们同一条无限试验路径上是否会反复出现事件。要研究几乎处处收敛,却正好要问:偏离候选极限的情况是否会最终停止?Borel–Cantelli 引理把这个路径问题转化为概率级数的计算,但任意事件与独立事件的结论有重要分别。
无限次发生的事件
对同一概率空间上的事件 ,定义
一个样本点属于此事件,意思是每个尾段均有一次发生;等价地,发生事件的指标集合是无限的。其补事件表示存在一个可依样本点而定的指标,此后事件不再发生。这比每个固定事件的概率很小更强。
同一空间上的随机变量 几乎处处收敛至 ,当且仅当对每个正数 ,事件 几乎必然只发生有限次。验证时只需考虑可数多个容差 ():它们对应的概率一事件之交仍有概率一。相较之下,依概率收敛只要求对每个固定的 ,有 。
两条引理
定理 17.1.1
(Borel–Cantelli 引理)
设 为同一概率空间上的事件。
- 若 ,则 。不需要独立性。
- 若事件互相独立且 ,则 。
证明
(可和时用并集上界,独立时用乘积上界)
对第一部分,令 。并集上界给出
右端的尾和趋零,故所求概率为零。这里不要求事件独立,甚至不要求它们互不相同。
对第二部分,固定 并写 。对每个 ,由互相独立及 时的 ,
从时刻 起一次也不发生的事件包含于每一个有限交集,因而概率为零。只发生有限次的事件,是把这些“此后不再发生”事件对所有 作可数并,因此概率也为零。故无限次发生的概率为一。
证明透视
证明的两半各用了什么
第一部分只用一个不等式,即对尾段并集 使用的并集上界。并集上界对任意事件都成立,所以唯一用到的假设是可和性,而且只通过尾和 使用;级数的前面各项完全不重要。
第二部分把目标反过来:不是直接证明晚期事件会发生,而是证明从时刻 起全部避开它们的概率为零。关键一步是相互独立性可以传到补事件,把有限交的概率化为乘积,再由 用部分和的指数作上界。级数发散使这个上界趋于零。论证最后靠可数可加性完成:起始时刻 只有可数多个,所以“ 之后不再发生”这些零概率事件的并仍是零概率事件。没有独立性就没有乘积;下面反例中的嵌套事件说明,单靠发散什么也推不出。
算例
例题 17.1.2
(罕见但独立的成功仍会反复出现)
设事件 互相独立,且对 有 。虽然单次概率趋零,调和级数却发散。第二引理给出 。因此典型路径上成功出现无限次,即使预先指定的晚期时刻成功的概率很小。如果把 换成 ,级数便收敛;无论事件是否独立,第一引理均给出几乎必然只成功有限次。
反例模式
没有独立性时的发散级数
令 在 上均匀分布,并设 。此时 ,概率级数发散;但事件互相嵌套,且对每个 ,最终都有 。因此 。在发散情况下,单凭各项概率不能判定答案。
例题 17.1.3
(几乎处处收敛但二阶矩不消失)
设 ,其中 ;事件可以相依。因为 ,几乎每条路径只有有限多项非零,故 几乎处处。然而每个 都有 。罕见尖峰在几乎每条路径上最终消失,却大得足以使二阶矩不趋零。单靠几乎处处收敛,不能把极限移进期望。
例题 17.1.4
(独立指数变量可以变得多大)
设 是相互独立、速率为一的指数随机变量,并固定 。对 令 ,于是 。
若 ,级数 收敛,第一引理给出:几乎必然除有限多个 外都有 。因此几乎必然 。取 (),再对这可数多个概率为一的事件取交,便得几乎必然 。
边界情形 恰好是调和级数。事件相互独立且 ,第二引理给出几乎必然有无穷多个 使 ,所以 。合起来,几乎必然 。每个固定的 通常只是一的数量级;对数增长率刻画的是在单条路径上,偶尔出现的特大值能有多大。
用引理处理偏差
若对每个 ,级数 收敛,则第一引理加上可数容差论证,推出 几乎处处。例如,若 ,Chebyshev 不等式给出可和上界 ,不需要独立性。
一个 阶的上界虽趋零,却不可和;它证明依概率收敛,但这个论证不能用它证明几乎处处收敛。这只是上界的局限,并不证明几乎处处收敛失败。前一单元对强大数定律的最大值不等式证明,正是控制部分和的整个区段,而非把各时刻的 估计直接相加,从而跨过这个困难。
常见错误
常见错误
(两两独立不是所述的假设)
上述第二引理假设相互独立;两两独立本身不能支持证明中的乘积等式。更强的结果可以减弱假设,但需要另行论证。
常见错误
(第一引理不需要独立性)
反过来,第一引理不需要附加独立性。其证明中的并集上界对任意事件都成立,包括相互嵌套或重复的事件。
常见错误
(概率趋于零不排除反复发生)
也要区分“无限次发生”与“ 不趋于零”:概率为 的独立事件,其概率趋于零,却几乎必然无限次发生。
习题
快速检查
(对任意事件 ,假设 。给出从时刻 起至少发生一次的概率上界,并求无限次发生的概率。)
解答 · 答案
并集上界给出 。尾和趋零,故由第一引理,无限次发生的概率为零。
快速检查
(独立事件 满足 。令 ,判断它是否依概率及几乎处处收敛至零。)
解答 · 答案
对 ,有 ; 时概率为零。因此 依概率收敛至零。级数发散且事件独立,故几乎必然有无限多个 使 ,所以不几乎处处收敛至零。
快速检查
(令 在 均匀分布,且 。判断上述两种收敛,并解释偏差概率之和发散为何不违反引理。)
解答 · 答案
对每个 ,最终有 ,故 几乎处处,也依概率收敛。对 ,偏差概率之和为 ;但这些嵌套事件相依,因此第二引理不适用。第一引理是充分条件,并非逆命题。
快速检查
(假设 ,证明 几乎处处。若上界是 ,此证明能否给出相同结论?)
解答 · 答案
Chebyshev 不等式给出 ,对每个正整数 均可和。用第一引理,再取可数交集,即得几乎处处收敛。若上界是 ,同样步骤给出的上界构成发散的调和级数,故此证明不能判断几乎处处收敛;在具体例子中结论仍可能成立。