美文网首页
2.贝叶斯决策理论

2.贝叶斯决策理论

作者: Marthm | 来源:发表于2018-12-25 10:26 被阅读0次

    上一节最后讲到了利用贝叶斯决策来确定一个字母是“C”还是“O”,这一节将深入学习其原理,以便更好的研究这次的主题——贝叶斯分类器。


    2.1 贝叶斯分类规则:

    首先关注只有两类的情况,设\omega_{1},\omega_{2}是样本所属的类别,并且假设先验概率P(\omega_{1}),P(\omega_{2})是已知的。设N是总训练样本的个数,N_{1},N_{2}分别为属于类别\omega_{1},\omega_{2}的样本个数,则对应的先验概率为:P(\omega_{1})=\frac{N_{1}}{N} P(\omega_{2})=\frac{N_{2}}{N} ,记:P(\omega_{i})=P_{i}

    除此之外,假设条件概率密度函数P(x|\omega_{i})\triangleq f_{i}(x) 也是已知的参数,用来描述每一类中特征向量的分布情况(若该类条件概率密度函数是未知的,可以通过已有的训练数据估算出来)。由贝叶斯公式可得:

                                                        P(\omega_{i}|x)=\frac{P(x|\omega_{i})P(\omega_{i})}{P(x)}

                                                                            =\frac{P(x|\omega_{i})P(\omega_{i})}{P(x|\omega_{1})P(\omega_{1})+P(x|\omega_{2})P(\omega_{2})}

                                                                            =\frac{f_{i}(x)P_{i}}{f_{1}(x)P_{1}+f_{2}(x)P_{2}},i=1, 2.        (1)

    如果P(\omega_{1}|x)>P(\omega_{2}|x),则x属于\omega_{1};否则,x属于\omega_{2}。   

    即: P(\omega_{1}|x)_{<\omega_{2}}^{>\omega_{1}}P(\omega_{2}|x),由(1)式可知:

                                                                           f_{1}(x)P_{2}_{<\omega_{2}}^{>\omega_{1}}f_{2}(x)P_{2}

相关文章

网友评论

      本文标题:2.贝叶斯决策理论

      本文链接:https://www.haomeiwen.com/subject/lhmxlqtx.html