两个传感器可以记录同一组底层信号的不同混合。若合适的混合矩阵已知且可逆,还原来源很直接;盲源分离中混合方式未知,观测本身不会自动确定唯一答案。统计假设、归一化和可用数据都重要。
线性混合是有假设的模型
某时刻令 s = ( s 1 , s 2 ) T s=(s_1,s_2)^T s = ( s 1 , s 2 ) T 为两个来源振幅,x = ( x 1 , x 2 ) T x=(x_1,x_2)^T x = ( x 1 , x 2 ) T 为两个传感器读数。即时、线性、无噪声模型写成 x = A s x=As x = A s ,固定 2 × 2 2\times2 2 × 2 矩阵 A A A 包含混合系数。“即时”表示各来源同一时间样本影响目前观测;除非扩展状态或改变模型,否则不包含延迟回声和卷积。加入噪声 ε \varepsilon ε 得 x = A s + ε x=As+\varepsilon x = A s + ε ,单纯套用逆矩阵便一般无法精确还原。
设 s ∈ R n s\in\mathbb R^n s ∈ R n 为来源向量,x ∈ R n x\in\mathbb R^n x ∈ R n 为某一时间样本的传感器向量。即时、无噪声的线性混合模型为 x = A s x=As x = A s ,其中固定方阵 A ∈ R n × n A\in\mathbb R^{n\times n} A ∈ R n × n 的元素 a i j a_{ij} a ij 是来源 j j j 在传感器 i i i 中的权重。本节的数值例子取 n = 2 n=2 n = 2 。
若 A A A 已知且 det A ≠ 0 \det A\ne0 det A = 0 ,每个时间点的来源向量可由 s = A − 1 x s=A^{-1}x s = A − 1 x 唯一还原。若 A A A 奇异,存在非零 v v v 使 A v = 0 Av=0 A v = 0 ;s s s 与 s + v s+v s + v 产生相同观测,所以没有额外限制时,单凭观测不能区分这两个可能来源。秩、传感器数量及来源假设均属模型的一部分,不能期待算法忽略它们。
设 A A A 为实 n × n n\times n n × n 矩阵,x = A s 0 x=As_0 x = A s 0 。
若 det A ≠ 0 \det A\ne0 det A = 0 ,则 s 0 = A − 1 x s_0=A^{-1}x s 0 = A − 1 x 是唯一产生 x x x 的来源向量。
若 det A = 0 \det A=0 det A = 0 ,产生 x x x 的来源向量恰为所有 s 0 + v s_0+v s 0 + v (A v = 0 Av=0 A v = 0 ),且有无穷多个。
若 det A ≠ 0 \det A\ne0 det A = 0 且 A s = x As=x A s = x ,两边乘 A − 1 A^{-1} A − 1 得 s = A − 1 x s=A^{-1}x s = A − 1 x ,故解唯一。若 det A = 0 \det A=0 det A = 0 ,则 A A A 有非零核向量 v 0 v_0 v 0 。对每个满足 A v = 0 Av=0 A v = 0 的 v v v ,有 A ( s 0 + v ) = x + A v = x A(s_0+v)=x+Av=x A ( s 0 + v ) = x + A v = x 。反过来,若 A s = x As=x A s = x ,则 A ( s − s 0 ) = 0 A(s-s_0)=0 A ( s − s 0 ) = 0 ,所以 s = s 0 + v s=s_0+v s = s 0 + v ,其中 A v = 0 Av=0 A v = 0 。核包含所有实数倍 t v 0 tv_0 t v 0 ,因此是无穷集。
例题:已知可逆混合
令
A = ( 1 1 1 − 1 ) , x = ( 1 3 ) . A=\begin{pmatrix}1&1\\1&-1\end{pmatrix},\qquad
x=\begin{pmatrix}1\\3\end{pmatrix}. A = ( 1 1 1 − 1 ) , x = ( 1 3 ) . 方程为 x 1 = s 1 + s 2 x_1=s_1+s_2 x 1 = s 1 + s 2 、x 2 = s 1 − s 2 x_2=s_1-s_2 x 2 = s 1 − s 2 。相加相减得 s 1 = ( x 1 + x 2 ) / 2 = 2 s_1=(x_1+x_2)/2=2 s 1 = ( x 1 + x 2 ) /2 = 2 、s 2 = ( x 1 − x 2 ) / 2 = − 1 s_2=(x_1-x_2)/2=-1 s 2 = ( x 1 − x 2 ) /2 = − 1 。行列式是 − 2 -2 − 2 ,故逆矩阵存在;代回 ( 2 , − 1 ) (2,-1) ( 2 , − 1 ) 得 ( 1 , 3 ) (1,3) ( 1 , 3 ) 。这是已知矩阵分离,并非盲问题的解答。
例题:奇异混合有多个解
令 A = ( 1 2 2 4 ) A=\begin{pmatrix}1&2\\2&4\end{pmatrix} A = ( 1 2 2 4 ) 、x = ( 3 , 6 ) T x=(3,6)^T x = ( 3 , 6 ) T 。s = ( 3 , 0 ) T s=(3,0)^T s = ( 3 , 0 ) T 与 s = ( 1 , 1 ) T s=(1,1)^T s = ( 1 , 1 ) T 都产生相同 x x x ;事实上所有满足 s 1 + 2 s 2 = 3 s_1+2s_2=3 s 1 + 2 s 2 = 3 的配对都是解。第二个传感器没有增加独立线性方程,因其行是第一行的两倍。某些应用可加入额外限制而选出一个可能值,但限制须明示及论证;单靠矩阵与观测不能选出它。
为何盲分解有歧义
即使未知方阵可逆,若无限制,分解 x = A s x=As x = A s 仍不唯一。对任意可逆 B B B ,可写成 x = ( A B − 1 ) ( B s ) x=(AB^{-1})(Bs) x = ( A B − 1 ) ( B s ) :不同混合矩阵与候选来源给出同一观测。统计限制可排除许多可能,但标准独立成分模型仍有尺度和次序歧义。将一个来源乘非零常数、并把对应混合矩阵列除以该常数,不改变 x x x 或独立性;同时置换来源与混合列亦不改变观测或独立性。
设 x = A s x=As x = A s ,A A A 为可逆 n × n n\times n n × n 矩阵,B B B 为任意可逆 n × n n\times n n × n 矩阵。则 x = ( A B − 1 ) ( B s ) x=(AB^{-1})(Bs) x = ( A B − 1 ) ( B s ) 。若另外 s s s 的各坐标独立,且 B B B 是对角元非零的对角矩阵或置换矩阵,则 B s Bs B s 的各坐标也独立。
矩阵乘法满足结合律,故 ( A B − 1 ) ( B s ) = A ( B − 1 B ) s = A s = x (AB^{-1})(Bs)=A(B^{-1}B)s=As=x ( A B − 1 ) ( B s ) = A ( B − 1 B ) s = A s = x 。若 B = diag ( b 1 , … , b n ) B=\operatorname{diag}(b_1,\ldots,b_n) B = diag ( b 1 , … , b n ) ,B s Bs B s 的第 i i i 个坐标为 b i s i b_is_i b i s i ,只是 s i s_i s i 的函数;各自只用不同变量的独立随机变量的函数仍然独立。若 B B B 是置换矩阵,B s Bs B s 与 s s s 有相同坐标,只是排列不同,而一族变量的独立性不取决于列出的次序。
因此比较分离结果前应规定尺度、符号及排列惯例,除非额外信息固定它们。还原成分不会自动标为“说话人 1”,也不保证保留原物理单位。与已知参考信号的相关性、校准或应用信息可协助标记与定尺度;它们是额外证据,并非盲分解自动产生的结论。
协方差与白化
现在假设来源与观测是有有限二阶矩、均值为零的随机向量。在无噪声模型下,协方差满足
Σ x = E [ x x T ] = A Σ s A T . \Sigma_x=\mathbb E[xx^T]=A\Sigma_s A^T. Σ x = E [ x x T ] = A Σ s A T .
若 Σ x \Sigma_x Σ x 正定,白化矩阵 W W W 满足 W Σ x W T = I W\Sigma_xW^T=I W Σ x W T = I ,白化观测 z = W x z=Wx z = W x 的协方差为单位矩阵。例如特征分解 Σ x = U Λ U T \Sigma_x=U\Lambda U^T Σ x = U Λ U T 的特征值全正时,可取 W = Λ − 1 / 2 U T W=\Lambda^{-1/2}U^T W = Λ − 1/2 U T 。均值本来非零时,以协方差计算前需要中心化。若协方差有零特征值,完整逆平方根无定义;丢弃零或小方向会改变问题,须规定秩与噪声政策。
设 x x x 为均值为零的随机向量,其协方差 Σ x \Sigma_x Σ x 正定。若 W Σ x W T = I W\Sigma_xW^T=I W Σ x W T = I ,称 W W W 为 x x x 的白化矩阵;此时 z = W x z=Wx z = W x 的协方差为 I I I 。
设 Σ x = U Λ U T \Sigma_x=U\Lambda U^T Σ x = U Λ U T ,其中 U U U 正交,Λ \Lambda Λ 为对角元全正的对角矩阵。则:
W 0 = Λ − 1 / 2 U T W_0=\Lambda^{-1/2}U^T W 0 = Λ − 1/2 U T 是白化矩阵。
方阵 W W W 是白化矩阵,当且仅当 W = Q W 0 W=QW_0 W = Q W 0 ,其中 Q Q Q 为某个正交矩阵。
第 1 项:W 0 Σ x W 0 T = Λ − 1 / 2 U T ( U Λ U T ) U Λ − 1 / 2 = Λ − 1 / 2 Λ Λ − 1 / 2 = I W_0\Sigma_xW_0^T=\Lambda^{-1/2}U^T(U\Lambda U^T)U\Lambda^{-1/2}=\Lambda^{-1/2}\Lambda\Lambda^{-1/2}=I W 0 Σ x W 0 T = Λ − 1/2 U T ( U Λ U T ) U Λ − 1/2 = Λ − 1/2 Λ Λ − 1/2 = I 。第 2 项:若 W = Q W 0 W=QW_0 W = Q W 0 且 Q Q Q 正交,则 W Σ x W T = Q I Q T = I W\Sigma_xW^T=QIQ^T=I W Σ x W T = Q I Q T = I 。反过来,设 W Σ x W T = I W\Sigma_xW^T=I W Σ x W T = I ,令 Q = W W 0 − 1 Q=WW_0^{-1} Q = W W 0 − 1 ;W 0 W_0 W 0 可逆,因为 U U U 与 Λ − 1 / 2 \Lambda^{-1/2} Λ − 1/2 都可逆。由 W 0 T W 0 = U Λ − 1 U T = Σ x − 1 W_0^TW_0=U\Lambda^{-1}U^T=\Sigma_x^{-1} W 0 T W 0 = U Λ − 1 U T = Σ x − 1 ,得 Q Q T = W ( W 0 T W 0 ) − 1 W T = W Σ x W T = I QQ^T=W(W_0^TW_0)^{-1}W^T=W\Sigma_xW^T=I Q Q T = W ( W 0 T W 0 ) − 1 W T = W Σ x W T = I 。满足 Q Q T = I QQ^T=I Q Q T = I 的方阵是正交矩阵,且 W = Q W 0 W=QW_0 W = Q W 0 。
证明透视
白化定理的逆命题如何闭合 第 1 项只是代入;真正的工作在第 2 项的逆命题。思路是用比值 Q = W W 0 − 1 Q=WW_0^{-1} Q = W W 0 − 1 把任意白化矩阵 W W W 与 W 0 W_0 W 0 作比较,再证明 Q Q Q 是正交矩阵。正定性用了两次:它使 Λ − 1 / 2 \Lambda^{-1/2} Λ − 1/2 存在,所以 W 0 W_0 W 0 可逆、比值有定义;它也给出 W 0 T W 0 = Σ x − 1 W_0^TW_0=\Sigma_x^{-1} W 0 T W 0 = Σ x − 1 。这个恒等式把假设 W Σ x W T = I W\Sigma_xW^T=I W Σ x W T = I 变成 Q Q T = I QQ^T=I Q Q T = I 。证明之所以闭合,是因为满足 Q Q T = I QQ^T=I Q Q T = I 的方阵是正交矩阵。方阵这个条件不可少:长方形的 W W W (例如 W 0 W_0 W 0 的某一行)也可以满足 W Σ x W T = I W\Sigma_xW^T=I W Σ x W T = I ,却不是任何正交 Q Q Q 与 W 0 W_0 W 0 的乘积。
例题:白化两传感器的协方差
使用已知可逆混合例题的矩阵,假设零均值来源不相关,方差为 1、4。则 Σ s = diag ( 1 , 4 ) \Sigma_s=\operatorname{diag}(1,4) Σ s = diag ( 1 , 4 ) ,且
Σ x = ( 5 − 3 − 3 5 ) . \Sigma_x=\begin{pmatrix}5&-3\\-3&5\end{pmatrix}. Σ x = ( 5 − 3 − 3 5 ) . 单位特征向量 ( 1 , 1 ) T / 2 (1,1)^T/\sqrt2 ( 1 , 1 ) T / 2 、( 1 , − 1 ) T / 2 (1,-1)^T/\sqrt2 ( 1 , − 1 ) T / 2 的特征值为 2、8。一个白化矩阵是
W = ( 1 / 2 1 / 2 1 / 4 − 1 / 4 ) . W=\begin{pmatrix}1/2&1/2\\1/4&-1/4\end{pmatrix}. W = ( 1/2 1/4 1/2 − 1/4 ) . 确有 W A = diag ( 1 , 1 / 2 ) WA=\operatorname{diag}(1,1/2) W A = diag ( 1 , 1/2 ) ,故 z = ( s 1 , s 2 / 2 ) T z=(s_1,s_2/2)^T z = ( s 1 , s 2 /2 ) T ,协方差为 I I I 。此特选例子中白化方向碰巧在重缩放后对齐来源;计算并不证明白化本身可分离任意混合。
由白化定理,对每个正交 Q Q Q ,Q W QW Q W 也可白化 x x x ,所以单靠协方差仍有旋转歧义。在额外的方阵可逆、来源协方差为单位矩阵模型下,白化后混合矩阵 W A WA W A 是正交矩阵:( W A ) ( W A ) T = I (WA)(WA)^T=I ( W A ) ( W A ) T = I 。这不代表正交矩阵自动已知或等于单位矩阵。白化标准化二阶结构,通常不能单凭它识别来源轴。
概念视角 几何
白化是把椭球压成球面 W W W 把 x x x 白化,当且仅当 W T W = Σ x − 1 W^TW=\Sigma_x^{-1} W T W = Σ x − 1 ,即对每个 x x x 都有 ∥ W x ∥ 2 = x T Σ x − 1 x \|Wx\|^2=x^T\Sigma_x^{-1}x ∥ W x ∥ 2 = x T Σ x − 1 x 。所以 W W W 把椭圆 { x : x T Σ x − 1 x = 1 } \{x:x^T\Sigma_x^{-1}x=1\} { x : x T Σ x − 1 x = 1 } 映到单位圆(更高维则是球面),而 Q W QW Q W 的自由度就是对该球面作旋转或反射的自由度。在例题中 Σ x \Sigma_x Σ x 的特征值为 2 2 2 和 8 8 8 ,所以椭圆沿 ( 1 , 1 ) (1,1) ( 1 , 1 ) 的半轴为 2 \sqrt2 2 ,沿 ( 1 , − 1 ) (1,-1) ( 1 , − 1 ) 的半轴为 8 \sqrt8 8 。
白化后 z = W x z=Wx z = W x 的协方差为单位矩阵,容易误以为 z z z 就是来源,或至多差一个尺度。白化两传感器的例题之所以如此,是因为例子特意选成协方差特征向量与来源轴对齐。一般而言 z = ( W A ) s z=(WA)s z = ( W A ) s ;当 Σ s = I \Sigma_s=I Σ s = I 时,W A WA W A 可以是任意正交矩阵,把来源彼此混合。白化只固定二阶结构。
不相关不等于独立
相关矩存在时,独立蕴含协方差为零;反过来一般不成立。旋转白化后的独立非高斯(non-Gaussian)成分可展示区别。
反例模式
单位协方差不蕴含独立 有人会由单位协方差推断独立。令 u , v u,v u , v 互相独立,各以相同概率取 − 1 -1 − 1 或 1 1 1 ;设 z 1 = ( u + v ) / 2 z_1=(u+v)/\sqrt2 z 1 = ( u + v ) / 2 、z 2 = ( u − v ) / 2 z_2=(u-v)/\sqrt2 z 2 = ( u − v ) / 2 。原向量均值为零、协方差为单位矩阵,且变换正交,所以 ( z 1 , z 2 ) (z_1,z_2) ( z 1 , z 2 ) 协方差亦为单位矩阵。但 P ( z 1 = 0 ) = 1 / 2 P(z_1=0)=1/2 P ( z 1 = 0 ) = 1/2 、P ( z 2 = 0 ) = 1 / 2 P(z_2=0)=1/2 P ( z 2 = 0 ) = 1/2 ,而 P ( z 1 = 0 , z 2 = 0 ) = 0 P(z_1=0,z_2=0)=0 P ( z 1 = 0 , z 2 = 0 ) = 0 ;独立性则要求联合概率为 1 / 4 1/4 1/4 。因此旋转后成分不相关却不独立;只看协方差不能区分白化数据的所有旋转。独立性要求联合分布可分解,这是协方差以外的陈述。
独立成分分析使用协方差以外的假设,选择统计独立、或在明确目标下近似独立的成分。非高斯性常提供方向信息;球对称的联合高斯向量在正交旋转下分布不变,因此在该例中连完整高斯分布也不能唯一识别方向。此观察不是所有 ICA 可识别性定理的证明;特定保证需要精确的独立性、非高斯性、秩及采样假设。
从理想计算到数据
真实记录的均值与协方差由有限样本估计,采样变异可令协方差估计不准确;求逆时小特征值可放大噪声。即时线性模型也可能不适合有混响的音频,因为来源会在多个延迟影响传感器。传感器噪声、来源多于独立传感器、混合随时间改变、来源互相依赖,都需要不同模型或额外假设。无噪声小例子的整洁矩阵逆,不建立这些情况下的稳健还原。
因此实际流程次序应明确:定义观测变量与采样单位;以所述估计值中心化;选秩和白化惯例;指定分离准则;按适当参考或任务评估输出。若预测流程的预处理变换从数据学得,应以预期训练数据拟合,再把保存的变换一致套到验证和测试数据。不要把看似合理的波形或零样本协方差当成独立性的证明。
有用检查是用估计来源与混合矩阵重建观测。重建误差小,说明这些因子按所选度量重现观测;它本身不证明因子是唯一真实物理来源。尺度和排列歧义已展示多个等价分解可精确重建。应说明哪些额外证据支持对成分的解读,包括标签和单位。
单位方差惯例仍不能固定所有东西
假设独立来源有非零有限方差。把每个来源重缩放至方差 1,并把其混合列乘原标准差,仍保持相同混合。此惯例消除了尺度歧义中的大小,但每个标准化成分的符号仍可反转,次序仍可置换。统计惯例只是从一类等价模型中选方便的代表,并不自动找回原声压单位。
具体例子中,已知可逆混合例题的第一列为 ( 1 , 1 ) T (1,1)^T ( 1 , 1 ) T 。把 s 1 s_1 s 1 换成 s 1 ′ = 2 s 1 s'_1=2s_1 s 1 ′ = 2 s 1 ,该列换成 ( 1 / 2 , 1 / 2 ) T (1/2,1/2)^T ( 1/2 , 1/2 ) T ,对两个观测通道的贡献不变。同一观测 ( 1 , 3 ) T (1,3)^T ( 1 , 3 ) T 的另一组来源坐标是 ( 4 , − 1 ) T (4,-1)^T ( 4 , − 1 ) T ;两种重建都精确。若有可信的外部来源振幅校准,可区分物理单位;没有它时,两种分解在观测上等价。
重建检查通过,解读仍可错
在上述一般变换中取 B = ( 1 1 0 1 ) B=\begin{pmatrix}1&1\\0&1\end{pmatrix} B = ( 1 0 1 1 ) 。它可逆,且 B s = ( s 1 + s 2 , s 2 ) T Bs=(s_1+s_2,s_2)^T B s = ( s 1 + s 2 , s 2 ) T 。定义 A ′ = A B − 1 A'=AB^{-1} A ′ = A B − 1 ,便恒有 A ′ ( B s ) = A s A'(Bs)=As A ′ ( B s ) = A s ,每个传感器样本均被精确重建;但第一个新坐标混合了两个原来源。若原来源独立且 Var ( s 2 ) > 0 \operatorname{Var}(s_2)>0 Var ( s 2 ) > 0 有限,则 Cov ( s 1 + s 2 , s 2 ) = Var ( s 2 ) > 0 \operatorname{Cov}(s_1+s_2,s_2)=\operatorname{Var}(s_2)>0 Cov ( s 1 + s 2 , s 2 ) = Var ( s 2 ) > 0 。因此两个新坐标相依,因具有有限二阶矩的独立变量协方差为零;在这些假设下,独立性可排除该变换。重建本身做不到。
重建误差为零,只说明 A ^ s ^ \hat A\hat s A ^ s ^ 重现了 x x x 。由等价分解命题,对每个可逆 B B B ,( A B − 1 , B s ) (AB^{-1},Bs) ( A B − 1 , B s ) 都精确重建 x x x ,包括把真实来源混合起来的 B B B 。所以精确重建不能分辨真实来源与其混合版本;独立性假设则可以,如上面的例子所示。
相反,独立坐标的置换或各自非零重缩放仍保持独立。因此即使加入独立性,混合分解仍可能有歧义。报告分离结果时应说明允许的等价关系及假设,不能声称数学上的精确求逆必然得到唯一标记的物理对象。
有限样本版本还须区分:样本协方差等于单位矩阵是关于有限数据与所选归一化的陈述,不能证明总体协方差恰好为单位矩阵或总体成分独立。在同一数据上优化独立性准则也可过拟合。评估设计须符合后续主张:重建误差、独立性诊断与下游分类表现回答不同问题;任何一项本身都不能提供关于物理来源身份的全部结论。
练习
快速检查
(设 A = ( 1 − 1 − 2 2 ) A=\begin{pmatrix}1&-1\\-2&2\end{pmatrix} A = ( 1 − 2 − 1 2 ) 、x = ( 1 , − 2 ) T x=(1,-2)^T x = ( 1 , − 2 ) T 。描述所有满足 A s = x As=x A s = x 的来源向量 s s s 。)
解答 · 答案 第一行给出 s 1 − s 2 = 1 s_1-s_2=1 s 1 − s 2 = 1 。第二行是第一行的 − 2 -2 − 2 倍,给出 − 2 s 1 + 2 s 2 = − 2 -2s_1+2s_2=-2 − 2 s 1 + 2 s 2 = − 2 ,即同一条件。所以 det A = 0 \det A=0 det A = 0 ,解为 s = ( 1 + t , t ) T s=(1+t,\,t)^T s = ( 1 + t , t ) T (t t t 为任意实数),即 s 0 = ( 1 , 0 ) T s_0=(1,0)^T s 0 = ( 1 , 0 ) T 加上核向量 ( 1 , 1 ) T (1,1)^T ( 1 , 1 ) T 的任意倍数。
快速检查
(某均值为零的向量有 Σ x = diag ( 4 , 9 ) \Sigma_x=\operatorname{diag}(4,9) Σ x = diag ( 4 , 9 ) 。给出一个对角白化矩阵,以及另一个非对角的白化矩阵。)
解答 · 答案 取 W = diag ( 1 / 2 , 1 / 3 ) W=\operatorname{diag}(1/2,1/3) W = diag ( 1/2 , 1/3 ) :W Σ x W T = diag ( 4 / 4 , 9 / 9 ) = I W\Sigma_xW^T=\operatorname{diag}(4/4,\,9/9)=I W Σ x W T = diag ( 4/4 , 9/9 ) = I 。取旋转 Q = 1 2 ( 1 − 1 1 1 ) Q=\frac1{\sqrt2}\begin{pmatrix}1&-1\\1&1\end{pmatrix} Q = 2 1 ( 1 1 − 1 1 ) ,则 Q W = 1 2 ( 1 / 2 − 1 / 3 1 / 2 1 / 3 ) QW=\frac1{\sqrt2}\begin{pmatrix}1/2&-1/3\\1/2&1/3\end{pmatrix} Q W = 2 1 ( 1/2 1/2 − 1/3 1/3 ) 不是对角矩阵,且 ( Q W ) Σ x ( Q W ) T = Q I Q T = I (QW)\Sigma_x(QW)^T=QIQ^T=I ( Q W ) Σ x ( Q W ) T = Q I Q T = I 。
快速检查
(设 X X X 在 { − 1 , 0 , 1 } \{-1,0,1\} { − 1 , 0 , 1 } 上均匀分布,Y = X 2 Y=X^2 Y = X 2 。证明 X X X 与 Y Y Y 不相关但不独立。)
计算 E [ X ] \mathbb E[X] E [ X ] 、E [ X Y ] \mathbb E[XY] E [ X Y ] ,并比较 P ( X = 0 , Y = 1 ) P(X=0,Y=1) P ( X = 0 , Y = 1 ) 与 P ( X = 0 ) P ( Y = 1 ) P(X=0)P(Y=1) P ( X = 0 ) P ( Y = 1 ) 。
解答 · 答案 E [ X ] = 0 \mathbb E[X]=0 E [ X ] = 0 且 X Y = X 3 = X XY=X^3=X X Y = X 3 = X ,故 Cov ( X , Y ) = E [ X 3 ] − E [ X ] E [ Y ] = 0 − 0 = 0 \operatorname{Cov}(X,Y)=\mathbb E[X^3]-\mathbb E[X]\mathbb E[Y]=0-0=0 Cov ( X , Y ) = E [ X 3 ] − E [ X ] E [ Y ] = 0 − 0 = 0 。但 Y = 1 Y=1 Y = 1 迫使 X ≠ 0 X\ne0 X = 0 ,所以 P ( X = 0 , Y = 1 ) = 0 P(X=0,Y=1)=0 P ( X = 0 , Y = 1 ) = 0 ,而 P ( X = 0 ) P ( Y = 1 ) = 1 3 ⋅ 2 3 = 2 9 ≠ 0 P(X=0)P(Y=1)=\frac13\cdot\frac23=\frac29\ne0 P ( X = 0 ) P ( Y = 1 ) = 3 1 ⋅ 3 2 = 9 2 = 0 。两个变量相依。
快速检查
(设 A = ( 1 1 1 − 1 ) A=\begin{pmatrix}1&1\\1&-1\end{pmatrix} A = ( 1 1 1 − 1 ) 、s = ( 2 , − 1 ) T s=(2,-1)^T s = ( 2 , − 1 ) T 。把第二个来源的符号反转,给出同一 x x x 的第二种分解。)
在等价分解命题中取 B = diag ( 1 , − 1 ) B=\operatorname{diag}(1,-1) B = diag ( 1 , − 1 ) 。
解答 · 答案 此时 B − 1 = B B^{-1}=B B − 1 = B ,故 A B − 1 = ( 1 − 1 1 1 ) AB^{-1}=\begin{pmatrix}1&-1\\1&1\end{pmatrix} A B − 1 = ( 1 1 − 1 1 ) ,B s = ( 2 , 1 ) T Bs=(2,1)^T B s = ( 2 , 1 ) T 。于是 ( A B − 1 ) ( B s ) = ( 2 − 1 , 2 + 1 ) T = ( 1 , 3 ) T = A s (AB^{-1})(Bs)=(2-1,\;2+1)^T=(1,3)^T=As ( A B − 1 ) ( B s ) = ( 2 − 1 , 2 + 1 ) T = ( 1 , 3 ) T = A s 。两种分解都给出 x = ( 1 , 3 ) T x=(1,3)^T x = ( 1 , 3 ) T ,所以还原来源的符号不能由观测决定。