最大似然法求解k分类朴素贝叶斯模型

最大似然法求解k分类朴素贝叶斯模型

作者: deBroglie | 来源:发表于2019-03-30 18:40 被阅读0次

建模

1）假设目标变量 $\small{y\in\{0,\cdots,k-1\} }$ 服从 $\small{k}$ 项式分布 $\small{(\phi_1, \cdots, \phi_{k-1})}$ ：
$p(y; \phi_1, \cdots, \phi_{k-1}) = \prod_{s=0}^{k}\phi_{s}^{ \mathbf{1} \{ y = s \} } = (1 - \sum_{s=1}^{k-1} \phi_{s})^{1 - \sum_{s=1}^{k-1} \mathbf{1} \{ y = s \} } \cdot \prod_{s=1}^{k-1}\phi_{s}^{ \mathbf{1} \{ y = s \} }$

其中 $\small{\mathbf{1} \{ \cdot \} }$ 是指示函数，满足 $\small{\mathbf{1} \{ \text{True} \} = 1, \mathbf{1} \{ \text{False} \} = 0}$ 。

2）[朴素Bayes假设] 特征向量的每一个分量 $\small{x_{j}}$ 之间，对于给定的 $\small{y}$ ，是彼此独立的。即 $\small{ p(\vec{x}|y) = p(x_{j}, j = 1,\cdots,n | y) = \prod_{j=1}^{n} p(x_{j} | y, x_{1}, \cdots, x_{j-1}) = \prod_{j=1}^{n} p(x_{j} | y) }$

3）设第 $\small{j}$ 个特征 $\small{x_{j}}$ 可能的取值集合为 $\small{ \{a_{j1},\cdots,a_{jk_{j}} \} }$ ，共 $\small{k_{j}}$ 种可能。

全部模型参数 $\small{\phi_{j,r|y=s} = p(x_j=a_{jr})}$ ， $\small{\phi_{y,s} = p(y = s)}$

对数似然函数

最大化对数似然函数

未完待续

相关文章

网友评论

本文标题：最大似然法求解k分类朴素贝叶斯模型

本文链接：https://www.haomeiwen.com/subject/btthbqtx.html

延伸阅读

深度阅读

您也可以注册成为美文阅读网的作者，发表您的原创作品、分享您的心情！

栏目导航

热点阅读

关于我们|服务条款|联系我们|最大似然法求解k分类朴素贝叶斯模型|投稿指南|网站地图|RSS订阅|排版工具|手机版

提供经典美文摘抄,优美散文欣赏,现代诗歌精选,短篇小说,心情随笔,表白情书范文,故事会在线阅读欣赏

Copyright © 2014-2023 Haomeiwen.com All Rights Reserved. 好美文阅读网版权所有

备案信息：桂公网安备 45052102000051号 · 桂ICP备13007215号-3

本站所收录作品、热点评论等信息部分来源互联网，目的只是为了系统归纳学习和传递资讯

所有作品版权归原创作者所有，与本站立场无关，如不慎侵犯了你的权益，请联系我们告知，我们将做删除处理！