估计的优良性标准

对一个未知参数的进行估计，得到的估计值也都不相同，即使使用的是最大似然估计法，样本量不一样时，得到的估计值也都不一样。

什么样的估计量是最好的呢？这就涉及估计量的优良性标准。

直观上看，很自然，希望得到的估计量与待估参数的值越接近越好。统计量是样本的函数，选择使用的统计量形式不同，便会得到不同的统计量。直观上看希望 | 统计量- 待估参数 |越小，这样的统计量是最好的。但是统计量本身是一个依赖于样本的值，是一个随机变量，样本不同，得到的检验统计量的值也是不同的。待估参数是未知的，所以，评估估计量的优劣是不简单的，需要衡量优良性的标准。

估计的优良性标准是不唯一的。

由于统计量是样本的函数，而样本的联合密度函数与θ有关，所以，统计量的期望也与参数θ有关，统计量的方差也与参数θ有关。

无偏估计:统计量的期望等于参数真值。
均方误差：E（统计量 - 待估参数 ）^2，用来衡量统计量（估计量）与待估参数之间的离差的性能。

由于均方误差是参数θ的函数，两个估计量并不一定总能比较优劣，在大多数情况下，不可能有不次于所有估计量的估计量，即不存在均方误差最小的估计量。因此，在确定估计的优良性标准时，往往不得不缩小范围，例如在所有无偏估计中寻找方差最小的。

一致最小方差无偏估计就是在无偏估计中寻找均方误差最小的估计。最小方差无偏估计是一种最优的估计量，在很多情况下，它确实存在，当然也有不存在的时候。

怎样得到一致最小方差无偏估计呢？这不是容易的事，需要具体问题具体分析，没有一个普=普遍使用的公式，但在20世纪50年代，形成的Blackwell-Lehmann-Scheffe理论对于寻求最小方差无偏估计有重要的指导作用。该定理叙述如下：如果T是充分统计量，f(T)是g(θ)的无偏估计，则f(T)是g(θ)的最小方差无偏估计。

Cramer-Rao不等式：对于无偏估计来说，当然是方差越小越好，但是，当样本量一定时，估计量的方差不能任意小。T(x)是g(θ)的一个无偏估计，且满足下列正则性条件：（1）E={x：f(x,θ)≠0}（支撑集）与参数θ无关。
（2）参数的一阶导和df(x,θ)/dθ都存在，并且对一切θ有。。
（3）Fisher信息量。
则Var(T)≥ 【g'(theta)】^2/nI(theta)
即统计量的方差有下限，统计量的方差不能任意的小。达到方差下界的无偏估计最引人重视，再一些较早的书刊中，称为有效估计。显然，如果这个估计存在，一般就是i最小方差无偏估计，但是它不一定存在。换句话说，C-R不等式给出的下界有时过小。

相合估计：limp( |估计量- 待估参数| ≥ ε)=0
强相合估计:P( lim估计量=待估参数)=1
强相合估计一定是相合估计，不难看出，任何有意义的估计应具有相合性。