美文网首页
贝叶斯法则

贝叶斯法则

作者: 直接往二 | 来源:发表于2019-09-29 20:57 被阅读0次

1. 预备知识(条件概率)

1.1 条件概率定义公式

P(A | B) = \frac{P(A\cap B)}{P(B)}

1.2 条件概率的乘法定理(乘法规则)

P(A | B) = \frac{P(A\cap B)}{P(B)} \Rightarrow P(A\cap B)=P(B)P(A|B)=P(A)P(B|A)

2. 贝叶斯法则

2.1 介绍

P(B|A) = \frac{P(B \cap A)}{P(A)}=\frac{P(A|B)P(B)}{P(A)}
式子分母P(A)可以看作普通变量,因为我们只关心在给定事件A的情况下可能发生事件B的概率,P(A)的值时确定不变的。故有

argmax\frac{P(A|B)P(B)}{P(A)}=argmaxP(A|B)P(B)

注:这里argmax的意思是求事后面的值最大的B的参数

2.2 事件A的概率计算方法

首先,根据乘法规则:
P(A\cap B)=P(A|B)P(B)
P(A\cap \bar{B})=P(A|\bar{B})P(\bar{B})

因此有:

P(A)=P(A \cap B)+P(A \cap \bar{B})=P(A|B)P(B)+P(A|\bar{B})P(\bar{B})

推广到一般形式,假设B事样本空间\Omega的一个划分,即\sum_iB_i=\Omega。如果A \subseteq\bigcup_{i}B_i,并且B_i互不相交,那么A=\sum_{i=1}B_iA,于是P(A)=\sum_{i=1}P(B_iA)。由乘法定理可得
P(A)=\sum_i P(A|B_i)P(B_i)该公式称为全概率公式。

相关文章

  • 朴素贝叶斯

    理论基础 条件概率:朴素贝叶斯最核心的部分是贝叶斯法则,而贝叶斯法则的基石是条件概率。贝叶斯法则如下: 词集模型:...

  • 宗成庆自然语言理解笔记 02 数学基础

    2.1 概率论基础 全概率公式 贝叶斯法则(Bayes' theorem) 贝叶斯决策理论(Bayesian de...

  • 图解 贝叶斯分类器

    本文知识点: 贝叶斯公式 一般化的贝叶斯公式 朴素贝叶斯算法:用到链式法则,条件独立 朴素贝叶斯分类器(Naïve...

  • 数据挖掘之贝叶斯

    贝叶斯推理贝叶斯法则朴素贝叶斯分类器应用:文本分类 1. 贝叶斯推理 --提供了推理的一种概率手段 --两个基本假...

  • 贝叶斯法则?

    你活在自己想象的世界里(先验),但是世界不是你想象的那个样子(后验)。所以需要不断的更新认知,用后验迭代先验。这难...

  • 贝叶斯法则

    1. 预备知识(条件概率) 1.1 条件概率定义公式 1.2 条件概率的乘法定理(乘法规则) 2. 贝叶斯法则 2...

  • 贝叶斯推理

    贝叶斯的统计学中有一个基本的工具叫贝叶斯公式、也称为贝叶斯法则, 尽管它是一个数学公式,但其原理毋需数字也可明了。...

  • 算法笔记(7)-朴素贝叶斯算法及Python代码实现

    朴素贝叶斯算法有三种类型,分别是贝努利朴素贝叶斯、高斯贝叶斯、多项式朴素贝叶斯。 贝叶斯公式 贝努利朴素贝叶斯 适...

  • 贝叶斯公式/贝叶斯法则/贝叶斯定理

    介绍 贝叶斯法则 贝叶斯定理是用来做什么的?简单说,概率预测:某个条件下,一件事发生的概率是多大? wiki 把为...

  • 朴素贝叶斯(NBM)之后验概率最大化的含义 | 统计学习方法

    朴素贝叶斯 - 贝叶斯估计Python复现: 舟晓南:朴素贝叶斯(Bayes)模型python复现 - 贝叶斯估计...

网友评论

      本文标题:贝叶斯法则

      本文链接:https://www.haomeiwen.com/subject/kmyqpctx.html