参数估计

数理统计的基本概念

• 数理统计：

  以数学和概率论为基础研究

  1. 如何有效收集有随机性的数据，例如抽样(如美国大选)、试验设计...
  2. 如何分析数据
  3. 在给定统计模型下进行统计推断（估计：点估计、区间估计和检验：参数检验、非参数检验）

• 总体（population）:

  统计总体：研究对象某个取值，以及取值的可能性。可以看做某个随机变量的取值及概率分布。

• 样本（sample）:

  • 定义：从总体中按照一定的规则抽取的一些个体，记为,称为一个样本，为样本大小或样本容量。样本要有代表性，即样本与总体服从相同的分布。
  • 样本二重性：抽样方案实施之前，将样本看做随机变量,以便进行理论研究。抽样方案实施之后，样本就是一组数

• 统计量（statistic）：

  完全由样本决定的量叫做统计量。统计量只能依赖于样本，不能依赖样本以外的任何未知量，尤其是总体分布中的一些未知参数。统计量是为了刻画总体某个特征对样本的一种加工。

  如

  1. 样本均值，根据大数定律，样本均值趋于总体均值
  2. 样本方差：。根据大数定律，样本方差趋于总计方差
  3. 最值 , ,中位数,极差，
  4. k阶样本原点矩：，类比随机变量的k阶原点矩，可称为经验矩，随机变量称为理论矩
  5. k阶样本中心距：，特别的，当时 样本方差与样本中心矩只差一个常数

点估计

• 参数估计的点估计问题：

  设有一个统计总体，以记其密度函数（可以是离散型或是连续型）,k值视具体情况而定。

  参数估计问题的一般提法是：假设从总体中抽取了一组样本,我们要依据样本对参数的未知值做出估计。

• 矩估计法：

  • 思想：设总体分布为，则它的矩为（此处以原点矩为例）或，依赖于。另一方面当n较大时，根据大数定律，经验矩约等于理论矩，取m=1...k,可得一组方程组，解其根为。就是的估计。