许多微小机会的总数
一个系统可能有很多次发生某事件的机会,但每一次的概率都很小。我们想计算没有故障或出现多次到达的概率,又不想逐项累加一长串二项式公式。即使各次的概率不同,泊松(Poisson)分布也可能是合适的近似。关键在于每次的概率都很小,并且相依结构合适;只知道事件个数的期望并不够。
设 是独立的示性变量,,其中 。令 ,,则 。若 服从参数为 的泊松分布,它的期望也是 ,并且
当 时,这一分布集中在零(等价地,在公式中取 )。
期望相同只提示了近似的可能,并不是证明。下面的界同时控制由任意非负整数集合所表示的事件的误差,而不只是某一个 。
定理 30.1.1
(稀有事件近似的误差界)
在上述独立示性变量的条件下,若 ,则对任意 ,
右边可能大于一;这时不等式仍然成立,但不提供有用的数值信息。
证明
(在同一概率空间上构造两个计数)
对每个 ,独立地抽取 ,再在旁边构造示性变量 。若 ,令 ;若 ,再独立地以概率
令 ,否则令它为零。由于 ,有 。因此 。各组相互独立地构造,所以 与 同分布;把独立泊松变量的母函数相乘,可知 服从参数为 的泊松分布。
两个分量不同,恰好是在 时,或在 而额外抽样得到一时。因此
两个总和若不同,至少有一对分量不同。由并集界,。对任意 ,示性变量 与 只有在两个总和不同时才可能不同。由于 与 同分布、 与 同分布,
证明透视
一个耦合同时控制所有事件
关键一步是不再比较两个概率公式,而是把两个计数构造在同一个概率空间上,使比较归结为一个数 。这个数与 无关,所以误差界对所有事件一致成立。
独立性用了两次,而且都在逐个分量的构造之后。原示性变量的独立性使 与 同分布;各 的独立性使它们的和服从泊松。并集界本身不需要独立性。误差的大小由每个分量各自决定:均值同为 的伯努利(Bernoulli)变量与泊松变量,可以配对到只在概率为 的事件上不同,而 把它化为 。假设 只用来保证 是概率。这里的耦合只是证明工具:它保持两个总和各自的分布,并不断言原系统中的事件真的是泊松事件。
例题 30.1.2
(一千次独立机会)
一千个元件在固定时段内各以概率 发生故障,并且相互独立。则 ,。至少两个故障的概率近似为
定理保证这一事件的绝对概率误差至多为 ;这不是相对误差。精确值是 ,但使用误差界时无须先算出它。
定理并不要求各概率相等,而且值得看一看这个界可以多么保守。
例题 30.1.3
(概率不相等的情形)
取 个独立示性变量,其中 个概率为 , 个概率为 。则 ,。没有成功的精确概率为
而泊松值为 。实际误差约为 ,远在保证的 之内。误差界只通过 依赖各个概率,所以两种大小的混合不需要另作处理。
例题 30.1.4
(误差界失去作用的边界情形)
设 、,于是 必然成立,且 。取 ,
而且没有任何事件给出更大的差,因为 恰是泊松 在点 以外的总概率。定理的界是 :正确,但没有数值用途。必然事件恰与稀有事件相反,误差界也正确地拒绝把一个点质量称为近似泊松。
极限结论及其条件
考虑一列模型,第 个模型中的示性变量相互独立,概率为 ,并设 为第 个模型的计数。
推论 30.1.5
(独立稀有示性变量的泊松极限)
若 ,且 ,则 依分布收敛于泊松; 的退化情形也包括在内。
证明
(把误差界与泊松分布之间的比较结合起来)
首先,
对任意非负整数集合 ,定理把 与参数为 的泊松变量比较,误差至多为上面的和。剩下要对 一致地比较泊松 与泊松。当 时,把一个泊松 计数与一个独立的泊松 增量相加;它们的和服从泊松,而两个计数只在增量非零时不同,其概率为 。当 时交换两者的角色。因此对 泊松 有 ,特别地得到依分布收敛。
反例模式
边缘概率小不能代替独立性
设 以概率 等于一,否则等于零,并令 个示性变量全都等于 。每个概率都趋于零,概率之和为 ,但计数是 。因此 ,而泊松 在零处的概率是 。这个模型中的成功总是同时发生;独立示性变量的定理不适用。期望相同并不能消除相依性。
常见错误
常见错误
(把误差界当作相对误差)
在一千个元件的例子中,误差界是 。对 来说,这是很小的相对误差;对尾部事件却不是这样。 的泊松值为 ,而至多 的绝对误差已超过它的四分之一。目标概率很小时,仅凭误差界连首位数字都无法确定。
常见错误
(用泊松分布近似很可能发生的事件的个数)
若 个独立元件各以概率 正常工作,正常工作的个数并不近似服从泊松:它的方差是 ,而该泊松分布的方差是 。应当对故障应用定理。故障个数是概率为 的示性变量之和,与泊松 相差不超过 ;正常工作的个数就是 减去它。
习题
快速检查
(三个独立示性变量的成功概率分别为 、 和 。用泊松分布近似没有成功的概率,并给出绝对误差界。)
计算 与 。
解答 · 答案
,近似值为 ;误差至多为 。精确概率是 ,所以实际误差约为 。
快速检查
(设 ,。求恰有两次成功的极限概率,以及对每个 泊松近似的绝对误差界。)
所有 个示性变量的概率都是 。
解答 · 答案
对每个 ,参数都是 ,而 。所以 ,并且对每个 ,泊松 近似的绝对误差至多为 。当 时这个界不小于一,不提供任何信息。
快速检查
(若 个独立事件各以概率 发生,上述定理能否证明用参数为 的泊松分布近似时误差趋于零?说明理由。)
计算 。
解答 · 答案
不能。所得的界是 ,不趋于零。虽然各个概率趋于零,总期望却在增长。这只说明这个界不能证明误差趋于零,并不能仅凭它断言不存在更好的近似。