美文网首页
朴素贝叶斯

朴素贝叶斯

作者: ZhSong | 来源:发表于2020-04-14 05:34 被阅读0次

    朴素贝叶斯

    用处:朴素贝叶斯主要解决的是而分类的问题。

    为什么叫朴素贝叶斯: 因为贝叶斯分类只做最原始,最简单的假设:所有的特征之间都是统计独立的

    什么是统计独立:假设某样本X有a_1,a_2,...a_n个属性,那么有P(X) = P(a_1,a_2,...,a_n)=P(a_1)\times P(a_2)\times ...\times p(a_n),满足这样的公式就说明特征统计独立

    概率基础

    1. 联合概率(并且): 包含多个条件,且所有条件同时成立的概率

      记为:P(A,B)

      计算:P(A,B) = P(A)P(B)

    2. 条件概率:就是时间A 在另一个时间B已经发生条件下的发生概率

      记为:P(A|B)=\frac{P(A\cap B)}{P(B)} \Rightarrow P(A\cup B) = P(A|B)P(B)

      同理可得P(A\cup B) = P(B|A)P(A) 联立可得 P(B|A)=\frac{P(B|A)P(B)}{P(A)} 也就是贝叶斯公式

      特性:P(A1,A2|B) = P(A1|B)P(A2|B)

      特性成立的条件是A1,A2是相互独立的。相互独立的意思就是互相之间没有影响。

    3. 全概率公式

      如果时间A_1,A_2,A_3,...,A_n构成一个完备时间且都有正概率,那么对于任意一个事件B则有:
      \begin{align*}P(B)=P(B|A_1)P(A_1)+P(B|A_2)P(A_2)+...+P(B|A_n)P(A_n)\end{align*}

    朴素贝叶斯-贝叶斯公式

    P(A|B) = P(A)\frac{P(B|A)}{P(B)}

    P(类别|多个特征) = P(类别)\frac{P(多个特征|类别)}{p(多个特征)}

    p(A)称为”先验概率“(Prior probablity),即在B时间发生之前,我们对A时间概率的一个判断

    p(A|B)称为”后验概率“(Posterior probability), 即在B事件发生之后,我们对A事件的重新评估

    \frac{P(B|A)}{P(B)}称为”可能性函数“(Likely hood),这是一个调整因子,可以使预估概率更加接近真实概率

    在计算最终结果的时候,可以将计算步骤分为几个部分,首先计算先验概率的大小,之后计算可能性函数,对于可能性函数,有分为分子的计算和分母的计算,首先计算分母,分母的计算使用到全概率公式计算,将对应的部分套入到公式中

    朴素贝叶斯的分类

    1. GaussianNB

    先验概率是高斯分布,需要求均值和方差

    相关文章

      网友评论

          本文标题:朴素贝叶斯

          本文链接:https://www.haomeiwen.com/subject/okuamhtx.html