参数估计

作者: 陈文瑜 | 来源:发表于2019-10-19 09:17 被阅读0次

应用统计学与R语言实现学习笔记（五）——参数估计
正态分布采样与参数估计可视化
推断统计-假设检验
5.1 参数估计的概念及两种估计方法
线性回归笔记——统计学任务4打卡
参数估计
参数估计
参数估计
小白学统计：如何用易懂的语言解释参数估计和假设检验？
经典Vs贝叶斯统计对点估计和线性回归理解

提出背景

对总体X的估计

理解矩

一阶矩指的是随机变量的平均值,即期望值，二阶矩指的是随机变量的方差
阶矩是用来描述随机变量的概率分布的特性

估计方法

参数估计（包含点估计、区间估计）

总体X 分布形式已知，未知分布中的参数。
用样本的参数，估计总体的参数

非参数估计

总体X的分布形式未知

矩估计法

使用矩估计法对参数估计进行求解

只有一个未知参数，使用一阶矩 $EX = A_1 = \overline{X} = \mu = \frac{x_1+x_2+\dots+x_n}{n}$
有两个参数，使用二阶矩 $EX^2 = A_2 = \frac1{n}\sum_{i=1}^n X_i^2 = DX+(EX)^2 = \sigma^2 +u^2$
另有： $EX = \sum{x_ip_i}=1$

即求解方程组
$\begin{cases} \hat{\mu} = \overline{X} \quad \\ \hat{\sigma}^2 + \hat{\mu}^2 = A_2 \end{cases}$

二阶中心矩
$\hat{\sigma}^2 = A_2 - \overline{X}^2 = \frac1{n}\sum_{i=1}^n(X_i-\overline{X})^2 =B_2$
其中 $\hat{\mu}\quad \hat{\sigma}^2 \quad \hat{\mu}^2 \quad$ 均为样本的参数，是总体的估计值

极大似然估计 (参数估计的一种 )

理解

如果事件发生是关于 $\theta$ 参数的，那么一次事件放生时，样本为 $x_1,\dots,x_k$ ，那么 $\hat{\theta}(x_1,\dots,x_k)$ 就是 $\theta$ 的估计值。当 $\theta = \hat{\theta}(x_1,\dots,x_k)$ 时，当前样本发生的概率最大。

如果总体 $X$ 为离散型

假设分布率为 $P = p(x;\theta)$ , $x$ 是发生的样本， $\theta$ 是待估计的参数， $p(x;\theta)$ 表示估计参数为 $\theta$ 时，发生 $x$ 的概率。那么当我们的样本值为： $x_1,x_2,\dots,x_n$ 时，
$L(\theta) = L(x_1,x_2,\dots,x_n;\theta) = \prod_{i=1}^n p(x_i;\theta)$
其中 $L(\theta)$ 为样本的似然函数。
假设
$L(x_1,x_2,\dots,x_n;\hat{\theta}) = max_{\theta \in \Theta} L(x_1,x_2,\dots,x_n;\theta) \quad$
有 $\hat{\theta}$ 使得 $L(θ)$ 的取值最大，那么 $\hat{θ}$ 就叫做参数 $θ$ 的极大似然估计值。

如果总体X为连续型

基本和上面类似，只是概率密度为 $f(x;θ)$ ，替代 $p$ .
构造似然函数 $L(θ)$
取对数： $lnL(θ)$
求导，计算极值
解方程，得到 $θ$

应用统计学与R语言实现学习笔记（五）——参数估计
Chapter 5 Estimation 本篇是第五章，内容是参数估计。 1.参数估计的一般问题正如前面介绍的，...
正态分布采样与参数估计可视化
练习：正态分布采样与参数估计正态分布：
推断统计-假设检验
推断统计是研究如何利用样本数据来推断总体特征的统计方法。包含参数估计和假设检验。参数估计即利用样本信息推断总体特征...
5.1 参数估计的概念及两种估计方法
1. 什么是参数估计参数估计是在样本统计量概率分布的基础上，利用样本的信息推断所关心的总体参数的过程。 ① 基于...
线性回归笔记——统计学任务4打卡
参数估计：已知高考成绩服从正态分布，我想来计算2015年某省高考平均分，于是选取了一个样本，利用参数估计的原理来推...
参数估计
数理统计的基本概念数理统计：以数学和概率论为基础研究如何有效收集有随机性的数据，例如抽样(如美国大选)、试验设计...
参数估计
参数估计就是用样本统计量去估计总体的参数，用来估计总体参数的统计量称为估计量，根据一个具体样本计算出来的估计量的数...
参数估计
提出背景对总体X的估计理解矩一阶矩指的是随机变量的平均值,即期望值，二阶矩指的是随机变量的方差阶矩是用来描...
小白学统计：如何用易懂的语言解释参数估计和假设检验？
如何用易懂的语言解释参数估计和假设检验？相似点：都是用样本变量去估计总体变量（假设检验和参数估计是推断统计的两...
经典Vs贝叶斯统计对点估计和线性回归理解
一、点估计数理统计有两大基本内容，估计（参数估计；非参数估计，如总体分布）和假设检验（原假设,备择假设）。参数估...