统计量的相合性 (Consistency of Estimators)

1. 概念与直观理解

相合性 (Consistency)，又称为一致性或相容性，是评价统计估计量好坏的一个重要性质，尤其是在大样本理论中 [1, 5, 6]。 它描述了当样本量 $n$ 无限增大时，估计量 ${\hat{\theta }}_n$ 是否会越来越接近被估计参数 $\theta$ 的真实值 [2, 3, 5]。

直观地说，一个具有相合性的估计量意味着，只要我们收集足够多的样本数据，该估计量就能以任意高的精确度逼近我们想要估计的参数真值 [2, 5, 6]。 这意味着随着样本量的增加，估计误差在某种意义下可以变得任意小，估计量的分布会越来越集中在参数真值附近 [1, 5]。 相合性是估计量应具备的最基本的要求之一 [2, 5]。 如果一个估计量不具备相合性，那么即使样本量很大，估计结果仍可能有较大的误差 [5]。

2. 相合性的严格定义

设 $\theta$ 是待估计的参数，$X_1,X_2,\dots ,X_n$ 是来自该总体的样本，${\hat{\theta }}_n={\hat{\theta }}_n(X_1,\dots ,X_n)$ 是基于该样本构造的 $\theta$ 的估计量 [1, 2]。 根据估计量 ${\hat{\theta }}_n$ 趋近于 $\theta$ 的方式（即收敛方式）不同，相合性可以分为以下几种 [1, 2]：

• 弱相合性 (Weak Consistency) 如果估计量 ${\hat{\theta }}_n$ 依概率收敛于 $\theta$，即对于任意给定的 $ϵ>0$，都有：

  $$\underset{n\to \infty }{\lim }P(|{\hat{\theta }}_n-\theta |\ge ϵ)=0$$

  或者等价地写为：

  $$\underset{n\to \infty }{\lim }P(|{\hat{\theta }}_n-\theta |<ϵ)=1$$

  则称 ${\hat{\theta }}_n$ 是 $\theta$ 的弱相合估计量（或简称相合估计量）[1, 2, 3]。 这通常记为 ${\hat{\theta }}_n\stackrel{P}{\to }\theta$ [1, 2]。

• 强相合性 (Strong Consistency) 如果估计量 ${\hat{\theta }}_n$ 以概率 1（Almost Surely）收敛于 $\theta$，即：

  $$P\left(\underset{n\to \infty }{\lim }{\hat{\theta }}_n=\theta \right)=1$$

  则称 ${\hat{\theta }}_n$ 是 $\theta$ 的强相合估计量 [1, 2]。 这通常记为 ${\hat{\theta }}_n\stackrel{a.s.}{\to }\theta$ [2]。

• r 阶矩相合性 (r-th Mean Consistency) 如果估计量 ${\hat{\theta }}_n$ 以 r 阶矩收敛于 $\theta$（其中 $r>0$），即：

  $$\underset{n\to \infty }{\lim }E[|{\hat{\theta }}_n-\theta {|}^r]=0$$

  则称 ${\hat{\theta }}_n$ 是 $\theta$ 的 r 阶矩相合估计量 [1, 2]。 特别地，当 $r=2$ 时，称为均方相合估计量 (Mean Squared Consistency) [2]。

3. 不同相合性之间的关系

这三种相合性之间的关系与概率论中随机变量序列的三种收敛性（依概率收敛、以概率1收敛、r阶矩收敛）的关系是一致的 [1, 2]：

• 强相合性 蕴含 弱相合性 [1]。
• r 阶矩相合性 蕴含 弱相合性 [1]。
• 强相合性与 r 阶矩相合性之间没有必然的蕴含关系 [1]。

在实际应用中，弱相合性是最基本的要求。

4. 相合性与无偏性的区别

相合性与无偏性是评价估计量的两个不同维度的标准 [4, 7, 8]。

• 无偏性 (Unbiasedness)：指的是估计量 ${\hat{\theta }}_n$ 的数学期望等于被估计参数的真值 $\theta$，即 $E[{\hat{\theta }}_n]=\theta$ [4, 7, 8]。

  • 这是一个在 固定样本量 $n$ 下 的性质，关注的是多次重复抽样（每次样本量均为 n）得到的估计值的平均值是否等于真值 [4, 7]。
  • 它要求估计量没有系统性的偏差 [8]。

• 相合性 (Consistency)：指的是当 样本量 $n\to \infty$ 时，估计量 ${\hat{\theta }}_n$ 是否收敛于 $\theta$ [1, 4, 8]。

  • 这是一个 大样本性质，关注的是在一次（或概念上的）试验中，不断增加样本量时，估计值是否趋于稳定并接近真值 [4]。

关系与示例 [4]:

• 一个估计量可能既是无偏的也是相合的。
  • 例如，正态总体 $N(\mu ,{\sigma }^2)$ 的样本均值 $\bar{X}=\frac{1}{n}{\sum }_{i=1}^n{X}_i$ 作为总体均值 $\mu$ 的估计量，既是无偏的 ($E[\bar{X}]=\mu$) 也是相合的 ($\bar{X}\stackrel{P}{\to }\mu$) [4]。
• 一个估计量可能是无偏但不相合的。
  • 例如，用单个观测值 $X_1$ 来估计总体均值 $\mu$。 $E[X_1]=\mu$，所以它是无偏的，但无论样本量 $n$ 多大，这个估计量始终是 $X_1$，不会随着 $n$ 增大而更接近 $\mu$，因此它不具有相合性 [4]。
• 一个估计量可能是有偏但相合的。
  • 例如，用 ${\hat{\sigma }}^2=\frac{1}{n}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2$ 来估计正态总体的方差 ${\sigma }^2$。它是 ${\sigma }^2$ 的有偏估计量，因为 $E[{\hat{\sigma }}^2]=\frac{n-1}{n}{\sigma }^2\ne {\sigma }^2$，但它是相合的，因为当 $n\to \infty$ 时，${\hat{\sigma }}^2\stackrel{P}{\to }{\sigma }^2$ [2, 4]。样本方差 $S^2=\frac{1}{n-1}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2$ 是 ${\sigma }^2$ 的无偏估计量，并且也是相合的。
• 相合性通常被认为是一个比无偏性更弱、更基本的要求，因为许多常用的估计方法（如矩估计法、极大似然估计法）在相当普遍的条件下都能得到相合估计量 [2, 4]。

5. 总结

相合性是衡量估计量在大样本下表现的核心指标。它保证了随着数据量的增加，我们的估计会越来越精确地逼近未知的真实参数值。理解不同类型的相合性及其与无偏性的区别，对于选择和评价统计推断方法至关重要。