课前导读
参数估计的两种形式:点估计和区间估计
第一节 点估计
点估计问题:设总体X的分布形式已知,但它的一个或多个参数未知,借助于总体X的一个样本来估计总体未知参数值的问题称为参数的点估计问题。
构造统计量常用的方法有两种:矩估计法和极大似然估计法。
一、矩估计
矩估计的思想就是替换思想:用样本原点矩替换总体原点矩。
矩估计可能不唯一,这是矩估计的一个缺点。通常尽量采用较低阶的矩给出未知参数的估计。
有时我们需要求解的并不是分布中的位置参数,二十它们的函数。所以还是采用替换原理,用样本原点矩的函数去替换相应的总体原点矩的函数。
定理:均值、方差、标准差的矩估计结果
矩估计是一种经典的估计方法,比较直观,计算简单。不需要知道总体分布类型就可以估计,实际应用广泛。
极大似然估计
极大似然估计是求总体未知参数的另一种常用的点估计方法。
理解极大似然估计基本思想的例子:对未知参数p的极大似然推断,在p的所有备选取值假定下,比较样本发生的概率大小,使概率最大的p的取值即为p的极大似然估计。
似然函数:
似然函数与极大似然的定义:
当是可微函数时,求导是求极大似然估计最常用的方法。而此时又因与在同一个处取到极值,且对对数似然函数求导更简单。故常用以下对数似然方程(组):
正态分布的极大似然估计:
极大似然估计的不变性:如果 是的极大似然估计,则对任一函数,满足当时,具有单值反函数,则其极大似然估计为
直接观察法:不好求导,直接看出来。
求解总体未知参数的极大似然估计的一般步骤:
第二节 点估计的优良性评判标准
评判一个估计量的好坏不能一概而论,即一个估计量的优劣不是绝对的,而是基于某一评判标准而言相对的评价结论。
下文中介绍三种常用的评判标准:无偏性、有效性和相合性。
一、无偏性
无偏估计和有偏估计以及渐近无偏估计的定义:
估计量的无偏性是指:由估计量得到的估计值相对于未知参数真值来说,取某些样本观测值时偏大,取另一些样本观测值时偏小。反复将这个估计量使用多次,就平均来说其偏差为0。如果估计量不具有无偏性,则无论使用多少次,其平均值也与真值有一定距离,这个距离就是系统误差了。
定理1 样本方差是无偏估计的。
二、有效性
一个位置参数的无偏估计可以有很多,如何在无偏估计中再进行选择?由于无偏估计的标准差是平均偏差为0,所以一个自然的想法就是每一次估计与真值的偏差波动越小越好。偏差波动大小可以用方差来衡量。因此用无偏估计的方差大小作为进一步衡量无偏估计优劣的标准。
有效性的定义:
三、相合性
点估计是样本的函数,故点估计仍然是一个随机变量,在样本量一定的条件下,不可能要求它完全等同于未知参数的真值。但如果随着样本量不断增大,它能越来越接近真值。控制在真值附近的强度(概率)越来越大,那么这就是一个好的估计,这一性质称为相合性。
相合性定义:
相合性被视为对估计的一个很基本的要求,若一个估计量不能把被估参数估计到任意指定的精度内,那么这个估计是不好的。通常不满足相合性的估计不予考虑。
样本均值是总体的相合估计,样本方差和都是的想和估计量。事实上,根据大数定律,矩估计一般都具有相合性。
第三节 区间估计
参数的点估计是用样本观测值算出一个值取估计位置参数。但事实上,指数的真值可能偏差较大,若能给出一个估计区间,让我们有较大把握相信真值被含在这个区间内,这样估计就显得更有使用价值,也更为可信,因为我们把可能出现的偏差也考虑在内了。
对置信水平的直观解释:
在实际问题中,有时只对未知参数的上限(或下限)感兴趣。
单侧置信区间,置信上限(下限):
在双侧置信区间求解时,常使得左右两个尾部的概率各为的方法来选择a和b。这样得到的置信区间称为等尾置信区间。
第四节 单正态总体下未知参数的置信区间
一、均值的置信区间
首先,是的无偏估计。
二、方差的置信区间
(1) 当已知时,的置信区间
(2) 当未知时,的置信区间
关于单正态总体中均值和方差的双侧置信水平为的置信区间可汇总如下表:
第五节 两个正态总体下未知参数的置信空间
一、均值差的置信区间
(1) 当已知时,的置信区间
(2) 当时,的置信区间
二、方差比的置信区间
(1) 当已知时,的置信区间
(2) 当未知时,的置信区间
网友评论