朴素贝叶斯
- 基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集,基于特征条件独立假设学习输入/输出的联合概率分布。
- 同时我们还可以得到样本的类别的先验概率分布。然后对给定的输入x,利用贝叶斯定理求出后验概率最大的输出y。
- 贝叶斯估计的参数估计有极大似然估计,但是可能会出现估计概率值为0的情况。贝叶斯估计在极大似然估计的基础上进行平滑处理,解决了这种问题。(当lambda为1时,相当于拉普拉斯平滑);
名字含义
- 朴素:特征条件独立
该假设说明用于分类的特征在类确定的条件下都是条件独立的;
![](https://img.haomeiwen.com/i3003339/e1c1390d9e6432cd.png)
- 贝叶斯:基于贝叶斯定理
重要步骤,公式
极大似然估计(统计机器学习)
- 训练-先验概率
![](https://img.haomeiwen.com/i3003339/65e48b4d8f412669.png)
- 训练-条件概率
![](https://img.haomeiwen.com/i3003339/51d0e8c9ec05abcc.png)
- 预测-后验概率
![](https://img.haomeiwen.com/i3003339/65386963cfc08c1e.png)
![](https://img.haomeiwen.com/i3003339/ed440401d73331f2.png)
贝叶斯估计(统计机器学习)
用极大似然估计可能会出现估计概率值为0的情况,因此需要做平滑处理。
- 训练-先验概率
![](https://img.haomeiwen.com/i3003339/d36cea5ccca161d5.png)
- 训练-条件概率
![](https://img.haomeiwen.com/i3003339/88ad8f5ceec399eb.png)
- 预测-后验概率
同 极大似然估计 预测公式
网友评论