五、（10分）

五、（10分）

设

• 总体 $X$ 的密度函数是 $f(x;\theta )=\frac{1}{2\theta }{e}^{-\frac{|x|}{\theta }}$ ，其中 $\theta >0$ 是参数。
• 样本 $X_1,X_2,\dots ,X_n$ 来自总体 $X$ 。

问

1. 求 $\theta$ 的最大似然估计 ${\hat{\theta }}_L$；
2. 证明 ${\hat{\theta }}_L$ 是 $\theta$ 的相合估计。

解答步骤与解释：

(1) 求 $\theta$ 的最大似然估计 ${\hat{\theta }}_L$：

1. 似然函数 $L(\theta )$： $L(\theta )={\prod }_{i=1}^{n}f(X_i;\theta )={\prod }_{i=1}^n\frac{1}{2\theta }{e}^{-\frac{|X_i|}{\theta }}={\left(\frac{1}{2\theta }\right)}^n{e}^{-\frac{1}{\theta }{\sum }_{i=1}^n|X_i|}$
2. 对数似然函数 $\ln L(\theta )$： $\ln L(\theta )=n\ln \left(\frac{1}{2\theta }\right)-\frac{1}{\theta }{\sum }_{i=1}^n|X_i|$ $=n(\ln 1-\ln (2\theta ))-\frac{1}{\theta }{\sum }_{i=1}^n|X_i|$ $=-n\ln 2-n\ln \theta -\frac{1}{\theta }{\sum }_{i=1}^n|X_i|$
3. 求导并令其为0： $\frac{d}{d\theta }\ln L(\theta )=-n\cdot \frac{1}{\theta }-\left(-\frac{1}{{\theta }^2}\right){\sum }_{i=1}^n|X_i|=-\frac{n}{\theta }+\frac{1}{{\theta }^2}{\sum }_{i=1}^n|X_i|$ 令 $\frac{d}{d\theta }\ln L(\theta )=0$： $-\frac{n}{\theta }+\frac{1}{{\theta }^2}{\sum }_{i=1}^n|X_i|=0$ 乘以 ${\theta }^2$ (因为 $\theta >0$)： $-n\theta +{\sum }_{i=1}^n|X_i|=0$ $n\theta ={\sum }_{i=1}^n|X_i|$ ${\hat{\theta }}_L=\frac{1}{n}{\sum }_{i=1}^n|X_i|$
4. 验证是极大值点（二阶导数）： $\frac{d^2}{d{\theta }^2}\ln L(\theta )=\frac{n}{{\theta }^2}-\frac{2}{{\theta }^3}{\sum }_{i=1}^n|X_i|$ 在 $\theta ={\hat{\theta }}_L$ 处，即 ${\sum }_{i=1}^n|X_i|=n{\hat{\theta }}_L$： $\frac{d^2}{d{\theta }^2}\ln L(\theta ){|}_{\theta ={\hat{\theta }}_L}=\frac{n}{{\hat{\theta }}_L^2}-\frac{2n{\hat{\theta }}_L}{{\hat{\theta }}_L^3}=\frac{n}{{\hat{\theta }}_L^2}-\frac{2n}{{\hat{\theta }}_L^2}=-\frac{n}{{\hat{\theta }}_L^2}$ 由于 $n>0$ 且 ${\hat{\theta }}_L>0$ (因为 $\theta >0$ 且数据非平凡时 $|X_i|$ 不全为0)，所以 $-\frac{n}{{\hat{\theta }}_L^2}<0$。因此，${\hat{\theta }}_L$ 是极大值点。

(2) 证明 ${\hat{\theta }}_L$ 是 $\theta$ 的相合估计：

1. 相合估计的定义： 如果估计量序列 ${\hat{\theta }}_n$ 当 $n\to \infty$ 时依概率收敛于参数 $\theta$ (即 ${\hat{\theta }}_n\stackrel{P}{\to }\theta$)，则称 ${\hat{\theta }}_n$ 是 $\theta$ 的相合估计。
2. 应用大数定律： 令 $Y_i=|X_i|$。由于 $X_1,\dots ,X_n$ 是来自总体 $X$ 的独立同分布样本，所以 $Y_1,\dots ,Y_n$ 也是独立同分布的。 根据辛钦大数定律，样本均值依概率收敛于期望值： ${\hat{\theta }}_L=\frac{1}{n}{\sum }_{i=1}^n|X_i|\stackrel{P}{\to }E(|X_1|)$ 当 $n\to \infty$。
3. 计算 $E(|X|)$： $E(|X|)={\int }_{-\infty }^{\infty }|x|f(x;\theta )dx={\int }_{-\infty }^{\infty }|x|\frac{1}{2\theta }{e}^{-\frac{|x|}{\theta }}dx$ 由于被积函数是偶函数： $E(|X|)=2{\int }_0^{\infty }x\cdot \frac{1}{2\theta }{e}^{-\frac{x}{\theta }}dx=\frac{1}{\theta }{\int }_0^{\infty }x{e}^{-\frac{x}{\theta }}dx$ 这是一个 Gamma 分布相关的积分，或者指数分布的期望。令 $\lambda =1/\theta$，积分 ${\int }_0^{\infty }x\lambda e^{-\lambda x}dx$ 是 $Exp(\lambda )$ 分布的期望，等于 $1/\lambda =\theta$。 或者通过分部积分：令 $u=x,dv=e^{-x/\theta }dx⟹du=dx,v=-\theta e^{-x/\theta }$ ${\int }_0^{\infty }x{e}^{-\frac{x}{\theta }}dx={\left[-x\theta e^{-\frac{x}{\theta }}\right]}_0^{\infty }-{\int }_0^{\infty }(-\theta )e^{-\frac{x}{\theta }}dx$ $=(0-0)+\theta {\int }_0^{\infty }{e}^{-\frac{x}{\theta }}dx=\theta {\left[-\theta e^{-\frac{x}{\theta }}\right]}_0^{\infty }$ $=\theta (0-(-\theta ))={\theta }^2$ 所以，$E(|X|)=\frac{1}{\theta }\cdot {\theta }^2=\theta$。
4. 结论： 由于 ${\hat{\theta }}_L\stackrel{P}{\to }E(|X_1|)$ 且 $E(|X_1|)=\theta$，因此 ${\hat{\theta }}_L\stackrel{P}{\to }\theta$。 所以，${\hat{\theta }}_L$ 是 $\theta$ 的相合估计。

答案：

• (1) $\theta$ 的最大似然估计为 ${\hat{\theta }}_L=\frac{1}{n}{\sum }_{i=1}^n|X_i|$。
• (2) 证明如上，${\hat{\theta }}_L$ 是 $\theta$ 的相合估计。

---