第七章：参数估计

作者: cheerss | 来源:发表于2019-12-11 20:19 被阅读0次

一、点估计

常用的点估计的方法：矩法、极大似然法、贝叶斯估计法、最小二乘法。这里只介绍前两种

矩估计法

理论依据：辛钦大数定律和依概率收敛的性质

通过求样本数据的k阶中心距或原点矩，并将其作为分布的中心距和原点矩并求参数。采取矩法（中心矩或远点矩）和k不同，估计的结果也不同。

极大似然法

极大化似然函数来估计函数的参数。

二、估计量的评选准则

1. 无偏性准则

要估计的参数 $\theta$ 估计值 $\hat \theta$ 如果满足： $E(\hat \theta) = \theta$ ，则称这个估计是无偏的。

纠偏方法

如果 $E(\hat \theta) = a \theta + b$ ，则 $\frac{1}{a}(\hat \theta - b)$ 就是 $\theta$ 的无偏估计。

2. 有效性准则

有效性准则只针对无偏估计。对于两个无偏估计 $\hat \theta_1, \hat \theta_2$ ，如果 $D(\hat \theta_1) \le D(\hat \theta_2)$ ，则称 $\hat \theta_1$ 比 $\hat \theta_2$ 更有效。

3. 均方误差准则

如果 $\hat \theta$ 是 $\theta$ 的点估计，并且方差存在，则称 $E(\hat \theta - \theta)^2$ 是估计量的均方误差，记为 $Mse(\hat \theta)$ 。如果 $\hat \theta$ 是 $\theta$ 的无偏估计，则 $Mse(\hat \theta) = D(\hat \theta)$ 。在实际应用中，均方误差准则比无偏性准则更重要。

4. 相合性准则

设 $\hat \theta(X_1, X_2, \cdots, X_n)$ 是 $\theta$ 的估计量，当 $n \rightarrow +\infty$ ， $\hat \theta$ 依概率收敛于 $\theta$ ，即 $\forall \epsilon > 0, \lim_{n \rightarrow +\infty} P\{|\hat \theta_n - \theta| \ge \epsilon \} = 0$ 成立，则称 $\hat \theta$ 为 $\theta$ 的相合估计量或一致估计量。

三、区间估计

点估计给出的参数是一个值，即我们认为这个参数是这个值的可能性最大。

区间估计指的是对待估参数给出一个区间，例如我们有95%的把握认为，参数一定会落在这个区间内。

区间估计常用的一个手段是枢轴量法。

枢轴量法

枢轴量的定义和它与统计量的区别见：https://www.jianshu.com/p/a9dad5dc4f3f

描述

枢轴量法就是构造一个含有待估参数的、分布已知的变量x。然后通过查表法确定变量x在给定置信度下的区间范围，进而求出待估参数的范围。

例题

上述题目中，已知枢轴量Y的分布是卡方分布，假设a<Y<b。通过查表法得知卡方分布左右各位0.05的值，然后把均值带入求出lambda，然后平均寿命就知道了。

Neyman原则

置信区间的解往往是不唯一的。例如使得置信度为95%的a和b可能不唯一 $P\{a < \theta < b \} = 95\%$ 。纽曼原则认为其中使得b-a最小的一个，即为最优解。在很多情况下，最优解不存在或者求解比较繁琐，我们就默认取双侧等大的区间，即置信度95%，即取0.025~0.975即可。

正态总体区间估计

常见的单变量正态总体下的枢轴量有：

这三个枢轴量分别允许我们：

（1）在已知总体方差的情况下求总体均值的区间。

（2）在均值方差都未知的情况下求均值的区间。

（3）在均值和方差都位置的情况下求方差。

常见的双变量正态总体下的枢轴量有：

非正态总体区间估计

注意若样本为非正态总体，则要求样本量足够大，因为这是中心极限定理满足的前提