比较期望差 的区间估计（已知方差 vs 未知方差）

一、 引言

• 背景：我们常常需要比较两个不同总体（例如，两个不同群组、两种不同处理方式）的平均水平是否有差异。
• 参数：我们关注的是两个总体均值之差 ${\mu }_1-{\mu }_2$。
• 数据：我们拥有来自两个总体的独立随机样本：
  • 样本 1: $X_1,...,X_{n_1}$ 来自 $N({\mu }_1,{\sigma }_1^2)$（或 $n_1$ 较大），样本均值为 ${\bar{X}}_1$。
  • 样本 2: $Y_1,...,Y_{n_2}$ 来自 $N({\mu }_2,{\sigma }_2^2)$（或 $n_2$ 较大），样本均值为 ${\bar{X}}_2$。
• 点估计：${\mu }_1-{\mu }_2$ 的自然点估计是样本均值之差 ${\bar{X}}_1-{\bar{X}}_2$。
• 点估计的方差：由于样本独立， $Var({\bar{X}}_1-{\bar{X}}_2)=Var({\bar{X}}_1)+Var({\bar{X}}_2)=\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}$
• 目标：构造 ${\mu }_1-{\mu }_2$ 的 $1-\alpha$ 置信区间。构造方法取决于关于总体方差 ${\sigma }_1^2,{\sigma }_2^2$ 的信息。

二、 情况一：两总体方差 ${\sigma }_1^2,{\sigma }_2^2$ 均已知

• 前提假设：
  • 两样本独立。
  • 两总体均为正态分布，或两样本容量 $n_1,n_2$ 均足够大。
  • 两总体的方差 ${\sigma }_1^2$ 和 ${\sigma }_2^2$ 是已知的常数。
• 标准误 (Standard Error):
  • $SE=\sqrt{Var({\bar{X}}_1-{\bar{X}}_2)}=\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}$ (该值已知)。
• 枢轴量 (Pivotal Quantity):
  • $Z=\frac{({\bar{X}}_1-{\bar{X}}_2)-({\mu }_1-{\mu }_2)}{SE}=\frac{({\bar{X}}_1-{\bar{X}}_2)-({\mu }_1-{\mu }_2)}{\sqrt{{\sigma }_1^2/n_1+{\sigma }_2^2/n_2}}$
• 枢轴量分布：
  • $Z\sim N(0,1)$ (标准正态分布)。
• 置信区间推导：
  • $P(-u_{1-\alpha /2}<Z<u_{1-\alpha /2})=1-\alpha$。
  • 代入 Z 并整理得到 ${\mu }_1-{\mu }_2$ 的范围。
• $1-\alpha$ 置信区间公式： $({\bar{X}}_1-{\bar{X}}_2)\pm u_{1-\alpha /2}\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}$

三、 情况二：两总体方差 ${\sigma }_1^2,{\sigma }_2^2$ 均未知

• 这是实践中更常见的情况。需要用样本方差 $S_1^2,S_2^2$ 来估计 ${\sigma }_1^2,{\sigma }_2^2$。
• 处理方式取决于是否能假定两总体方差相等。

1. 子情况 2a：假定 ${\sigma }_1^2={\sigma }_2^2={\sigma }^2$ （方差未知但相等）

• 前提假设：
  • 两样本独立。
  • 两总体均为正态分布。
  • 两总体方差未知，但有理由相信它们相等 (${\sigma }_1^2={\sigma }_2^2={\sigma }^2$)。
• 合并方差估计 (Pooled Variance Estimate):
  • 为了更好地估计共同的方差 ${\sigma }^2$，将两个样本的信息合并： $S_p^2=\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2}$
  • $S_p^2$ 是 ${\sigma }^2$ 的无偏估计量。
• 估计的标准误：
  • $S{E}_p=\sqrt{\frac{S_p^2}{n_1}+\frac{S_p^2}{n_2}}=S_p\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}$
• 枢轴量：
  • $T=\frac{({\bar{X}}_1-{\bar{X}}_2)-({\mu }_1-{\mu }_2)}{S{E}_p}=\frac{({\bar{X}}_1-{\bar{X}}_2)-({\mu }_1-{\mu }_2)}{S_p\sqrt{1/n_1+1/n_2}}$
• 枢轴量分布：
  • $T\sim t(n_1+n_2-2)$ (t 分布，自由度为 $n_1+n_2-2$)。
• $1-\alpha$ 置信区间公式 (合并 t 区间 / Pooled t-interval): $({\bar{X}}_1-{\bar{X}}_2)\pm t_{\alpha /2}(n_1+n_2-2)S_p\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}$

2. 子情况 2b：假定 ${\sigma }_1^2\ne {\sigma }_2^2$ （方差未知且不等）

• 前提假设：
  • 两样本独立。
  • 两总体均为正态分布。
  • 两总体方差未知，且没有理由相信它们相等 (或怀疑它们不等)。这是 Behrens-Fisher 问题。
• 分别估计方差：使用 $S_1^2$ 和 $S_2^2$ 分别估计 ${\sigma }_1^2$ 和 ${\sigma }_2^2$。
• 估计的标准误：
  • $S{E}_u=\sqrt{\frac{S_1^2}{n_1}+\frac{S_2^2}{n_2}}$
• 近似枢轴量：
  • $T^{\prime }\approx \frac{({\bar{X}}_1-{\bar{X}}_2)-({\mu }_1-{\mu }_2)}{S{E}_u}=\frac{({\bar{X}}_1-{\bar{X}}_2)-({\mu }_1-{\mu }_2)}{\sqrt{S_1^2/n_1+S_2^2/n_2}}$
• 近似枢轴量分布：
  • $T^{\prime }$ 近似服从 t 分布。其精确自由度 $\nu$ 比较复杂，通常使用 Welch-Satterthwaite 公式估计： $\nu \approx \frac{(S_1^2/n_1+S_2^2/n_2{)}^2}{\frac{(S_1^2/n_1{)}^2}{n_1-1}+\frac{(S_2^2/n_2{)}^2}{n_2-1}}$
  • $\nu$ 通常不是整数，使用时常向下取整或使用软件精确计算。
• $1-\alpha$ 置信区间公式 (Welch t 区间 / Unpooled t-interval): $({\bar{X}}_1-{\bar{X}}_2)\pm t_{\alpha /2}(\nu )\sqrt{\frac{S_1^2}{n_1}+\frac{S_2^2}{n_2}}$

四、 总结比较

特征	情况 1: ${\sigma }_1^2,{\sigma }_2^2$ 已知	情况 2a: ${\sigma }_1^2={\sigma }_2^2$ 未知 (合并)	情况 2b: ${\sigma }_1^2\ne {\sigma }_2^2$ 未知 (Welch)
方差假设	已知	未知但相等	未知且不等
标准误 (或估计)	$\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}$	$S_p\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}$	$\sqrt{\frac{S_1^2}{n_1}+\frac{S_2^2}{n_2}}$
枢轴量分布	$N(0,1)$	$t(n_1+n_2-2)$	近似 $t(\nu )$
自由度 (df)	N/A (Z 分布)	$n_1+n_2-2$	Welch-Satterthwaite $\nu$
区间公式 (形式)	$({\bar{X}}_1-{\bar{X}}_2)\pm u_{1-\alpha /2}SE$	$({\bar{X}}_1-{\bar{X}}_2)\pm t_{\alpha /2}(df)S{E}_p$	$({\bar{X}}_1-{\bar{X}}_2)\pm t_{\alpha /2}(\nu )S{E}_u$

五、 知道方差的价值

• 当 ${\sigma }_1^2,{\sigma }_2^2$ 已知时，我们可以使用标准正态 (Z) 分布，其临界值 $u_{1-\alpha /2}$ 小于任何对应的 t 分布临界值 ($t_{\alpha /2}(n_1+n_2-2)$ 或 $t_{\alpha /2}(\nu )$)。
• 这意味着在其他条件相同的情况下，已知方差会得到一个更窄的置信区间，即对 ${\mu }_1-{\mu }_2$ 的估计更精确。
• 避免了估计方差带来的额外不确定性，也避免了判断是否需要合并方差以及计算 Welch 自由度的复杂性。

六、 实践建议 (当方差未知时)

• 虽然可以先进行方差齐性检验（如 F 检验或 Levene 检验）来决定使用合并 t 区间还是 Welch t 区间，但许多统计学家建议：
  • 优先考虑使用 Welch t 区间 (情况 2b)。因为它对于方差不等的假设更稳健，即使方差实际上相等，其表现也通常可以接受。合并 t 区间在方差不相等时可能导致错误的结论。

(当前时间: Tuesday, April 29, 2025 at 7:45:47 AM PDT)