美文网首页
通过经验风险最小化推导极大似然估计

通过经验风险最小化推导极大似然估计

作者: Jarkata | 来源:发表于2021-04-03 11:19 被阅读0次

    通过经验风险最小化推导极大似然估计。证明模型是条件概率分布,当损失函数是对数损失函数时,经验风险最小化等价于极大似然估计。

    解答:

    假设模型的条件概率分布是P_{\theta}(Y|X),现推导当损失函数是对数损失函数时,极大似然估计等价于经验风险最小化。
    极大似然估计的似然函数为:
    L(\theta)=\prod_D P_{\theta}(Y|X)
    两边取对数:
    \ln L(\theta) = \sum_D \ln P_{\theta}(Y|X)\\ \mathop{\arg \max}_{\theta} \sum_D \ln P_{\theta}(Y|X) = \mathop{\arg \min}_{\theta} \sum_D (- \ln P_{\theta}(Y|X))
    反之,经验风险最小化等价于极大似然估计,亦可通过经验风险最小化推导极大似然估计。

    相关文章

      网友评论

          本文标题:通过经验风险最小化推导极大似然估计

          本文链接:https://www.haomeiwen.com/subject/wvthkltx.html