一 ,贝叶斯定理:
后验概率 : P(H|X)
先验概率 : P (H)
二 ,朴素贝叶斯分类(已知类标号,假设属性的值条件地独立)
1.用类标号计算出先验概率 P(Ci)
2.对每个不同的属性计算每个属性对应的P(X|Ci)
3.假设属性独立,计算基于类标号的P(X|Ci) (每一个独立相乘)
4.最终求出P(X|Ci)*P(Ci)的最大值
三 .贝叶斯网络(已知类标号,联合概率分布,允许变量子集间定义类条件独立性)
分为两部分:无环图 和 条件概率表
1. 无环图
结点表示随机变量,弧表示概率依赖,弧前端是双亲节点,后端是后继,不在弧上的后继称为非后继
例图:
2. 条件概率表
例:
四 ,训练贝叶斯信念网络
情况一:如果网络机构已知并且变量是可见的,训练网络直接计算CPT,与朴素贝叶斯涉及的计算概念类似
情况二:变量隐藏条件下,用梯度下降方法训练信念网络
网友评论