只数成功次数并不总是足够。一次试验可能有多种互斥结果,我们往往想同时统计各类的次数。总次数固定时,各类计数受到共同约束,知道一类的计数就会影响其他类别可能的取值;但若总数服从泊松(Poisson)分布,再把每个事件独立分类,所得计数竟然相互独立。关键在于分清这两种不同的抽样机制。
固定次数的试验
定义 27.1.1
(多项分布)
假设进行 次独立试验,每次恰好落入 类之一,第 类的概率为 ,且 。令 为第 类出现的次数。向量 的分布称为多项分布,记作 。它的可能取值是满足 的非负整数向量。
定理 27.1.2
(多项分布公式)
对上述可能取值,
每个 都服从参数为 的二项分布,并且当 时,
证明
(先数排列,再用示性变量)
由试验的独立性,任何一个指定的结果序列,只要第 类出现 次,其概率就是 。选定各类所占的试验位置,可知这样的序列共有 个;把这些相等的概率相加即得公式。对概率为零、次数也为零的类别,采用约定 。
令 表示第 次试验是否落入第 类,则 ,而 是均值为 的独立伯努利(Bernoulli)变量,所以 服从二项分布,期望与方差如上。同一次试验不能同时属于两类,故当 时 ,从而
而不同试验之间的交叉协方差由独立性为零。把 个同一试验内的项相加,即得协方差公式。
证明透视
负协方差从何而来
证明用到模型的两个不同特征。试验之间的独立性使类别次数相同的每个序列概率相等,也使所有跨试验的协方差消失。同一次试验内的互斥性,即每次试验恰好属于一类,是协方差的唯一来源:它迫使 ,把 变成 。
因此,负协方差是这个总数固定的模型的结果,并不是所有分类计数都具有的性质。若试验本身相互依赖,跨试验的项会重新出现,符号也可能改变;若总数是随机的,互斥性所带来的约束 便不复存在,这正是下面泊松分割的情形。
例题 27.1.3
(三种结果)
在四次独立试验中,红、蓝、绿的概率分别为 。恰有两红、一蓝、一绿的概率为
红与蓝的期望次数分别为 和 ,协方差为 。两者不独立:四次全红排除了出现任何蓝色的可能,尽管这两个事件各自的概率都为正。
随机总数带来的变化
定理 27.1.4
(泊松分割)
设 ,其中 。在给定 的条件下,把每个事件独立地以固定概率 分入第 类,其中各 且和为一。则各类计数相互独立,并且 。
证明
(泊松概率质量乘以多项概率质量)
若 ,则 几乎必然成立,各类计数也几乎必然为零,结论成立。下面设 。给定非负整数 ,令 。各类计数决定了总数为 ,而且 ,所以乘法公式与多项公式给出
第二个等号利用 把 写成 ,并利用 。每个因子都是泊松概率质量函数,包括参数为零的退化情形。整个联合概率质量函数可以分解,这就证明了独立性。
证明透视
阶乘为何恰好相消
关键一步是 的相消:总数的泊松概率质量提供 ,多项系数提供 。泊松总数的概率质量恰好带有多项系数所需的阶乘,所以剩下的是 各自函数的乘积;对一般的 的分布,因子 未必能这样拆分。另外两个要素是:由于 , 可拆成 ;由于各 之和为一, 也可拆分。独立分类用于在给定 时套用多项公式。若 ,再以 为条件,就回到总数固定时的多项依赖关系;独立性来自总数本身的随机性。
例题 27.1.5
(分流与条件重建)
设到达总数是均值为 的泊松变量,每次到达独立地以概率 标记为 A,否则标记为 B。则 ,,且两者独立。因此 。但若已知总数恰为三,则 ,且 。
反例模式
仅有随机总数并不足够
有人会以为任何随机总数都能使计数独立。若总数恒为一,两类概率均为 ,则计数只能是 或 ,概率各为 。于是 ,而 ,所以计数不独立。上述结论同时依赖泊松总数与独立分类;若所有事件共用同一个随机选定的标签,即使总数是泊松变量,计数一般也不独立。
稀有类别的泊松极限
分割后的泊松模型也是固定次数试验的极限。固定 。在第 行中, 次独立试验的每一次落入第 类的概率为 (),另有一类的概率为 ;取 足够大使它非负。设 为第 类的计数。
定理 27.1.6
(稀有类别的泊松极限)
对固定的非负整数 ,
因此 依分布收敛于均值为 的独立泊松变量组成的向量。
证明
(逐个因子取极限)
记 ,并取 。多项公式(额外一类出现 次)给出
阶乘比等于 ,是 个趋于一的因子之积,最后一个因子则趋于 。所以每个固定的联合概率质量都趋于独立泊松变量的联合概率质量。这些极限概率质量之和为一,因此联合分布收敛于该分布。
极限独立并不意味着有限 时精确独立:当 时,协方差为 ,虽然趋于零,但只要 就不为零。
例题 27.1.7
(一千次试验时极限有多准)
取 次试验,两个稀有类别的概率为 和 ,即 、,第三类的概率为 。第一类一次也不出现、第二类恰好出现一次的精确概率为
极限定理给出 ,相对误差约为 。两个计数的精确协方差是 :很小,但不为零。
常见错误
常见错误
(把二项边缘分布相乘当作联合概率)
每个多项计数都服从二项分布,但联合概率质量不是边缘概率质量之积。在三色例子中,“四红一蓝”的概率为零,因为总共只有四次试验。边缘概率之积却是 。
常见错误
(计数相加时漏掉协方差)
在三色例子中,。但 是概率为 的合并类别的计数,服从 ,方差为 。两者之差正是 ,而 。
练习与解答
快速检查
(十次独立试验有三类结果,概率为 。求计数为 的概率,以及前两类计数的协方差。)
使用多项系数 。
解答 · 答案
多项系数为 ,所以概率为 。协方差为 。
快速检查
(缺陷总数是均值为 的泊松变量。每个缺陷独立地以概率 归为轻微缺陷,否则归为严重缺陷。求恰有两个严重缺陷而没有轻微缺陷的概率。)
先分割,再用独立性。
解答 · 答案
轻微缺陷数与严重缺陷数分别是均值为 、 的独立泊松变量,所以答案为 。
快速检查
(在分割定理的条件下,另设 ,求给定 时 的条件分布。若 且 ,在此条件下 是否独立?)
给定总数后,构造就是固定次数的试验。
解答 · 答案
给定 ,构造就是 次试验的多项试验,所以 。两者在此条件下不独立,因为条件协方差为 。