美文网首页
参数估计

参数估计

作者: 陈文瑜 | 来源:发表于2019-10-19 09:17 被阅读0次

    提出背景

    • 对总体X的估计

    理解矩

    • 一阶矩指的是随机变量的平均值,即期望值,二阶矩指的是随机变量的方差
    • 阶矩是用来描述随机变量的概率分布的特性

    估计方法

    • 参数估计 (包含 点估计、区间估计)

    总体X 分布形式已知,未知 分布中的参数。
    用样本的参数,估计总体的参数

    • 非参数估计

    总体X的分布形式未知

    矩估计法

    • 使用矩估计法对 参数估计 进行求解

    只有一个未知参数,使用一阶矩 EX = A_1 = \overline{X} = \mu = \frac{x_1+x_2+\dots+x_n}{n}
    有两个参数,使用二阶矩 EX^2 = A_2 = \frac1{n}\sum_{i=1}^n X_i^2 = DX+(EX)^2 = \sigma^2 +u^2
    另有:EX = \sum{x_ip_i}=1

    • 即求解方程组
      \begin{cases} \hat{\mu} = \overline{X} \quad \\ \hat{\sigma}^2 + \hat{\mu}^2 = A_2 \end{cases}

    二阶中心矩
    \hat{\sigma}^2 = A_2 - \overline{X}^2 = \frac1{n}\sum_{i=1}^n(X_i-\overline{X})^2 =B_2
    其中 \hat{\mu}\quad \hat{\sigma}^2 \quad \hat{\mu}^2 \quad均为 样本的参数,是总体的估计值

    极大似然估计 (参数估计的一种 )

    • 理解

    如果事件发生是关于\theta参数的,那么一次事件放生时,样本为 x_1,\dots,x_k,那么\hat{\theta}(x_1,\dots,x_k) 就是 \theta的估计值。当\theta = \hat{\theta}(x_1,\dots,x_k)时,当前样本发生的概率最大。

    • 如果总体X为离散型

    假设分布率为 P = p(x;\theta) , x 是发生的样本,\theta是待估计的参数, p(x;\theta) 表示估计参数为\theta时,发生x的概率。那么当我们的样本值为:x_1,x_2,\dots,x_n时,
    L(\theta) = L(x_1,x_2,\dots,x_n;\theta) = \prod_{i=1}^n p(x_i;\theta)
    其中 L(\theta)为样本的似然函数。
    假设
    L(x_1,x_2,\dots,x_n;\hat{\theta}) = max_{\theta \in \Theta} L(x_1,x_2,\dots,x_n;\theta) \quad
    \hat{\theta} 使得 L(θ) 的取值最大,那么 \hat{θ}就叫做参数 θ 的极大似然估计值。

    • 如果总体X为连续型

    基本和上面类似,只是概率密度为f(x;θ),替代p.
    构造似然函数L(θ)
    取对数:lnL(θ)
    求导,计算极值
    解方程,得到θ

    相关文章

      网友评论

          本文标题:参数估计

          本文链接:https://www.haomeiwen.com/subject/kisgmctx.html