在Kolmogorov强大数定律(SLLN)中,独立同分布(i.i.d.)条件是保证样本均值几乎必然收敛的关键。 我们通过两个反例说明该条件的必要性:

反例1:独立但不同分布(方差爆炸)

构造独立随机变量序列 ,其分布为:

  • 期望
  • 方差

尽管变量独立且 ,但方差满足:

根据Kolmogorov准则 1 2,此时SLLN失效。样本均值 可能发散,尽管各变量期望相同。


反例2:同分布但非独立(完全正相关)

令所有(完全正相关),其中是非退化随机变量(如标准正态分布)。

  • 样本均值
  • 收敛性不收敛到常数,而是始终等于

此例显示:缺乏独立性时,即使同分布,样本均值也无法几乎必然收敛到期望值 2 3

条件必要性的理论依据

条件类型必要性分析
独立性消除变量间相关性,避免方差累积失控(如反例2) 2 3
同分布确保期望一致,防止期望差异导致样本均值偏移(若变化,均值可能不收敛) 4 3

关键结论

  • 独立性:防止变量间的隐藏关联导致方差爆炸(如反例1的方差条件不满足)。
  • 同分布:保证期望一致性,避免样本均值被不同期望的变量主导。
  • 替代条件:若放宽i.i.d.,需额外限制(如)来补偿分布差异 1 2

通过这两个反例,我们直观展示了Kolmogorov SLLN中i.i.d.条件的不可替代性。

Footnotes

  1. https://statisticaloddsandends.wordpress.com/2019/04/29/kolmogorovs-strong-law-of-large-numbers/ 2

  2. https://www.math.stonybrook.edu/~bishop/classes/math533.S21/Notes/Csorgo1983.pdf 2 3 4

  3. https://www2.stat.duke.edu/courses/Fall17/sta711/lec/wk-08.pdf 2 3

  4. https://www.math.hkust.edu.hk/~makchen/MATH5411/Chap1Sec7.pdf