课前导读
参数估计的两种形式:点估计和区间估计
![](https://img.haomeiwen.com/i16722260/16acc8fa98897ae7.png)
![](https://img.haomeiwen.com/i16722260/dad4c4c5048c2667.png)
第一节 点估计
点估计问题:设总体X的分布形式已知,但它的一个或多个参数未知,借助于总体X的一个样本来估计总体未知参数值的问题称为参数的点估计问题。
![](https://img.haomeiwen.com/i16722260/8d06ba65d47822f4.png)
构造统计量常用的方法有两种:矩估计法和极大似然估计法。
一、矩估计
矩估计的思想就是替换思想:用样本原点矩替换总体原点矩。
![](https://img.haomeiwen.com/i16722260/3add685efb12c142.png)
![](https://img.haomeiwen.com/i16722260/738a9e2319de1f0d.png)
矩估计可能不唯一,这是矩估计的一个缺点。通常尽量采用较低阶的矩给出未知参数的估计。
![](https://img.haomeiwen.com/i16722260/dad9d89d358e5fae.png)
有时我们需要求解的并不是分布中的位置参数,二十它们的函数。所以还是采用替换原理,用样本原点矩的函数去替换相应的总体原点矩的函数。
![](https://img.haomeiwen.com/i16722260/fcff6639af2020d4.png)
定理:均值、方差、标准差的矩估计结果
![](https://img.haomeiwen.com/i16722260/3f6c0b2a97762869.png)
矩估计是一种经典的估计方法,比较直观,计算简单。不需要知道总体分布类型就可以估计,实际应用广泛。
![](https://img.haomeiwen.com/i16722260/8d644bf5ed8ca7e8.png)
极大似然估计
极大似然估计是求总体未知参数的另一种常用的点估计方法。
理解极大似然估计基本思想的例子:对未知参数p的极大似然推断,在p的所有备选取值假定下,比较样本发生的概率大小,使概率最大的p的取值即为p的极大似然估计。
![](https://img.haomeiwen.com/i16722260/040de3597edc4992.png)
似然函数:
![](https://img.haomeiwen.com/i16722260/ac1cde078c41c963.png)
![](https://img.haomeiwen.com/i16722260/9ca309be778f185b.png)
似然函数与极大似然的定义:
![](https://img.haomeiwen.com/i16722260/7092b092b5671518.png)
当是可微函数时,求导是求极大似然估计最常用的方法。而此时又因
与
在同一个
处取到极值,且对对数似然函数求导更简单。故常用以下对数似然方程(组):
![](https://img.haomeiwen.com/i16722260/76131603d2638057.png)
正态分布的极大似然估计:
![](https://img.haomeiwen.com/i16722260/9a5aa98d0af45a1b.png)
![](https://img.haomeiwen.com/i16722260/d1730e5828489998.png)
![](https://img.haomeiwen.com/i16722260/a46b662327aace40.png)
![](https://img.haomeiwen.com/i16722260/5d7287a15a99074c.png)
极大似然估计的不变性:如果
直接观察法:不好求导,直接看出来。
![](https://img.haomeiwen.com/i16722260/678a7bd0fd424421.png)
![](https://img.haomeiwen.com/i16722260/ea2fbfebb423736f.png)
求解总体未知参数的极大似然估计的一般步骤:
![](https://img.haomeiwen.com/i16722260/4a2bdfb966c76b7d.png)
第二节 点估计的优良性评判标准
评判一个估计量的好坏不能一概而论,即一个估计量的优劣不是绝对的,而是基于某一评判标准而言相对的评价结论。
下文中介绍三种常用的评判标准:无偏性、有效性和相合性。
一、无偏性
无偏估计和有偏估计以及渐近无偏估计的定义:
![](https://img.haomeiwen.com/i16722260/d935ca77df9ca464.png)
估计量的无偏性是指:由估计量得到的估计值相对于未知参数真值来说,取某些样本观测值时偏大,取另一些样本观测值时偏小。反复将这个估计量使用多次,就平均来说其偏差为0。如果估计量不具有无偏性,则无论使用多少次,其平均值也与真值有一定距离,这个距离就是系统误差了。
![](https://img.haomeiwen.com/i16722260/28b5f0660f153b1f.png)
![](https://img.haomeiwen.com/i16722260/eb09d7d2328d1199.png)
定理1 样本方差是无偏估计的。
![](https://img.haomeiwen.com/i16722260/47a9c76a6b63e376.png)
二、有效性
一个位置参数的无偏估计可以有很多,如何在无偏估计中再进行选择?由于无偏估计的标准差是平均偏差为0,所以一个自然的想法就是每一次估计与真值的偏差波动越小越好。偏差波动大小可以用方差来衡量。因此用无偏估计的方差大小作为进一步衡量无偏估计优劣的标准。
有效性的定义:
![](https://img.haomeiwen.com/i16722260/b27682bbdad69cf4.png)
![](https://img.haomeiwen.com/i16722260/09b034ba335176ec.png)
三、相合性
点估计是样本的函数,故点估计仍然是一个随机变量,在样本量一定的条件下,不可能要求它完全等同于未知参数的真值。但如果随着样本量不断增大,它能越来越接近真值。控制在真值附近的强度(概率)越来越大,那么这就是一个好的估计,这一性质称为相合性。
相合性定义:
![](https://img.haomeiwen.com/i16722260/245576c0816cd9f6.png)
相合性被视为对估计的一个很基本的要求,若一个估计量不能把被估参数估计到任意指定的精度内,那么这个估计是不好的。通常不满足相合性的估计不予考虑。
![](https://img.haomeiwen.com/i16722260/efe0de12b5133680.png)
![](https://img.haomeiwen.com/i16722260/f759a5202fbf0dfc.png)
样本均值是总体
的相合估计,样本方差
和
都是
的想和估计量。事实上,根据大数定律,矩估计一般都具有相合性。
![](https://img.haomeiwen.com/i16722260/9262151006af64be.png)
第三节 区间估计
参数的点估计是用样本观测值算出一个值取估计位置参数。但事实上,指数的真值可能偏差较大,若能给出一个估计区间,让我们有较大把握相信真值被含在这个区间内,这样估计就显得更有使用价值,也更为可信,因为我们把可能出现的偏差也考虑在内了。
![](https://img.haomeiwen.com/i16722260/bd33b59e56d3e1a2.png)
![](https://img.haomeiwen.com/i16722260/a2904cfd377355fd.png)
对置信水平的直观解释:
![](https://img.haomeiwen.com/i16722260/ab57cd136f955a10.png)
在实际问题中,有时只对未知参数
![](https://img.haomeiwen.com/i16722260/6f08aacc22215fae.png)
单侧置信区间,置信上限(下限):
![](https://img.haomeiwen.com/i16722260/21b490d5081a5415.png)
![](https://img.haomeiwen.com/i16722260/95891d568a8c7b34.png)
在双侧置信区间求解时,常使得左右两个尾部的概率各为的方法来选择a和b。这样得到的置信区间称为等尾置信区间。
![](https://img.haomeiwen.com/i16722260/4e9de429686224be.png)
第四节 单正态总体下未知参数的置信区间
![](https://img.haomeiwen.com/i16722260/46dd8e41b0d4e1e4.png)
一、均值的置信区间
首先,是
的无偏估计。
![](https://img.haomeiwen.com/i16722260/8a83c17a31d6b5da.png)
![](https://img.haomeiwen.com/i16722260/222ec59d6d50d1f9.png)
![](https://img.haomeiwen.com/i16722260/69a9454725fb018e.png)
二、方差的置信区间
(1) 当已知时,
的置信区间
![](https://img.haomeiwen.com/i16722260/57a997966b6aafd0.png)
![](https://img.haomeiwen.com/i16722260/7aa05c59b27fb54f.png)
![](https://img.haomeiwen.com/i16722260/ebf4e7c243698e76.png)
(2) 当未知时,
的置信区间
![](https://img.haomeiwen.com/i16722260/b11b43cf8502483a.png)
关于单正态总体中均值和方差
的双侧置信水平为
的置信区间可汇总如下表:
![](https://img.haomeiwen.com/i16722260/6c2d1104f8e902f2.png)
第五节 两个正态总体下未知参数的置信空间
![](https://img.haomeiwen.com/i16722260/eb263b459b8a1c24.png)
一、均值差的置信区间
(1) 当已知时,
的置信区间
![](https://img.haomeiwen.com/i16722260/3acfbd6c57671460.png)
(2) 当时,
的置信区间
![](https://img.haomeiwen.com/i16722260/fe54d7c5cc8d7e8c.png)
二、方差比的置信区间
(1) 当已知时,
的置信区间
![](https://img.haomeiwen.com/i16722260/f4a1458b1adc3f29.png)
(2) 当未知时,
的置信区间
![](https://img.haomeiwen.com/i16722260/d5f2a6b26d4d60d6.png)
网友评论