6.2 经验分布函数

前已指出, 数理统计的核心任务是 “从局部推断整体”, 具体地讲, 从样本 $\left(X_1,X_2,\cdots ,X_n\right)$ 出发, 推断总体 $X$ 的统计特性. 在中学教材中,大家学过的频率直方图就是一种用样本观测值近似拟合总体分布密度函数的直观方法. 那么, 从理论上讲,从局部能够推断整体吗? 或者说样本 $\left(X_1,X_2,\cdots ,X_n\right)$ 何时才能近似反映总体 $X$ 的特性呢?

本节所介绍的经验分布的逼近性质从理论上给出了肯定的答案.

定义 (经验分布函数 样本分布函数)

设总体 $X$ 的样本 $\left(X_1,X_2,\cdots ,X_n\right)$ 的一次观测值为 $\left(x_1,x_2,\cdots ,x_n\right)$, 将其从小到大排列为 $x_{\left(1\right)}\le x_{\left(2\right)}\le \cdots \le x_{\left(n\right)}$. 令

$$F_n^X\left(x\right)=\{\begin{array}{cc}0,& x<x_{\left(1\right)},\\ \frac{1}{n},& x_{\left(1\right)}\le x<x_{\left(2\right)},\\ ⋮& ⋮\\ \frac{k}{n},& x_{\left(k\right)}\le x<x_{\left(k+1\right)},\\ ⋮& ⋮\\ 1,& x_{\left(n\right)}>x_{\left(n\right)}.\end{array}$$

称 $F_n^X$ 为总体 $X$ 的一个经验分布函数 (或样本分布函数).

Link to original

• 1.28

设总体 $X$ 的分布函数为 $F_X$, 利用伯努利大数定律 (参见推论 5.1.1) 容易证明,对任意 $\epsilon >0$,有

$$\underset{n\to \infty }{\lim }P\left(\left|F_n^X\left(x\right)-F_X\left(x\right)\right|\ge \epsilon \right)=0,\forall x\in \left(-\infty ,\infty \right).\text{\hspace{1em}(6.2.1)}$$

另外,格里汶科 $\left({\Gamma }_{\text{JIMBEHKO }}\right)$ 证明了更强的结果,即

$$P\left(\underset{n\to \infty }{\lim }\underset{-\infty <x<\infty }{\sup }\left|F_n^X\left(x\right)-F_X\left(x\right)\right|=0\right)=1.\text{\hspace{1em}(6.2.2)}$$

以上的事实 (6.2.1) 和 (6.2.2) 都表明,

当样本容量 $n$ 足够大时,经验分布函数与总体的分布函数差距很小.

这从理论上说明, 当样本容量较大时, 近似推断总体是可能的.

python 展示经验分布函数逼近分布函数