美文网首页
贝叶斯概率相关知识复习

贝叶斯概率相关知识复习

作者: 龙鹰图腾223 | 来源:发表于2019-09-26 07:34 被阅读0次

贝叶斯定理由英国数学家贝叶斯 ( Thomas Bayes 1702-1761 ) 发展,用来描述两个条件概率之间的关系,比如 P(A|B) 和 P(B|A)。按照乘法法则,可以立刻导出:P(A∩B) = P(A)*P(B|A)=P(B)*P(A|B)。如上公式也可变形为:P(A|B)=P(B|A)*P(A)/P(B)。

1、条件概率

P(A∩B)  = P(A)+P(B)-P(AB)

条件概率是指事件A在事件B发生的条件下发生的概率。条件概率表示为:P(A|B),读作“A在B发生的条件下发生的概率”。若只有两个事件A,B,那么:

:

2、全概率

P(A)=P(A|B1)P(B1) + P(A|B2)P(B2) + ... + P(A|Bn)P(Bn)

p(A)=P(AB1)+P(AB2)+...+P(ABn)),其中A与Bn的关系为交)

当A与B相互独立时,有:

P(AB) = P(A)* P(B)

3、贝叶斯概率

基本关系:

P(A∩B) = P(A)*P(B|A) = P(B)*P(A|B)

P(B) = P(B1)+ P(B2) + ... + P(Bn)

P(Ai) =  P(Bi)*P(A|Bi)

贝叶斯公式:

在贝叶斯公式中,每个名词都有约定俗成的名称:

P(A)是A的先验概率或边缘概率。之所以称为"先验"是因为它不考虑任何B方面的因素。

P(A|B)是已知B发生后A的条件概率,也由于得自B的取值而被称作A的后验概率

P(B|A)是已知A发生后B的条件概率,也由于得自A的取值而被称作B的后验概率

P(B)是B的先验概率或边缘概率,也作标准化常量(normalized constant)

按这些术语,Bayes法则可表述为:

A的后验概率 = (似然度 * A的先验概率)/标准化常量B 也就是说,后验概率与先验概率和似然度的乘积成正比。

P(A|B)          =   ( P(B|A) *        P(A)   )/  P(B) 

另外,比例P(B|A)/P(B)也有时被称作标准似然度(standardised likelihood),Bayes法则可表述为:

后验概率 = 标准似然度 * 先验概率

P(A|B)   =  ( P(B|A) /  P(B) )  *   P(A)

贝叶斯公式为利用搜集到的信息对原有判断进行修正提供了有效手段。在采样之前,经济主体对各种假设有一个判断(先验概率),关于先验概率的分布,通常可根据经济主体的经验判断确定(当无任何信息时,一般假设各先验概率相同),较复杂精确的可利用包括最大熵技术或边际分布密度以及相互信息原理等方法来确定先验概率分布。

人们在决策过程中往往并不遵循贝叶斯规律,而是给予最近发生的事件和最新的经验以更多的权值,在决策和做出判断时过分看重近期的事件。面对复杂而笼统的问题,人们往往走捷径,依据可能性而非根据概率来决策。这种对经典模型的系统性偏离称为“偏差”。由于心理偏差的存在,投资者在决策判断时并非绝对理性.

其它:

在不完全信息动态博弈中,参与人所采取的行为具有传递信息的作用。尽管A企业有可能是高成本企业,但A企业连续进行的市场进入阻挠,给B企业以A企业是低阻挠成本企业的印象,从而使得B企业停止了进入地市场的行动。

应该指出的是,传递信息的行为是需要成本的。假如这种行为没有成本,谁都可以效仿,那么,这种行为就达不到传递信息的目的。只有在行为需要相当大的成本,因而别人不敢轻易效仿时,这种行为才能起到传递信息的作用。

传递信息所支付的成本是由信息的不完全性造成的。但不能因此就说不完全信息就一定是坏事。研究表明,在重复次数有限的囚徒困境博弈中,不完全信息可以导致博弈双方的合作。理由是:当信息不完全时,参与人为了获得合作带来的长期利益,不愿过早暴露自己的本性。这就是说,在一种长期的关系中,一个人干好事还是干坏事,常常不取决于他的本性是好是坏,而在很大程度上取决于其他人在多大程度上认为他是好人。如果其他人不知道自己的真实面目,一个坏人也会为了掩盖自己而在相当长的时期内做好事。

【1】百度百科:贝叶斯概率、条件概率、全概率

相关文章

  • 贝叶斯概率相关知识复习

    贝叶斯定理由英国数学家贝叶斯 ( Thomas Bayes 1702-1761 ) 发展,用来描述两个条件概率之间...

  • 十大数据挖掘算法之朴素贝叶斯

    一、什么是朴素贝叶斯 相关名词 条件概率 贝叶斯准则 贝叶斯决策理论 极大似然估计 1.1 条件概率 在谈朴素贝叶...

  • 分类--贝叶斯分类

    1、贝叶斯分类方法是统计学的分类方法,它利用概率统计知识预测给定元组属于特定类的概率。 2、贝叶斯分类源于贝叶斯定...

  • ML梳理01 | 贝叶斯分类算法的前世今生

    关键字:贝叶斯、概率、贝叶斯分类算法、应用本文收集整理的相关知识点大多来自网络,如有不恰当之处,还望指正。 什么是...

  • 【机器学习】贝叶斯概率思维笔记

    课程来源 知乎live-贝叶斯概率思维 目录 贝叶斯概率 贝叶斯定理 贝叶斯估计 贝叶斯网络 推荐书籍 涉及名词 ...

  • 贝叶斯分类器

    贝叶斯决策轮:   对分类任务来说,在所有相关概率都已知的理想情形下,贝叶斯决策论考虑如何基于这些概率和误判损失来...

  • 朴素贝叶斯

    理论基础 条件概率:朴素贝叶斯最核心的部分是贝叶斯法则,而贝叶斯法则的基石是条件概率。贝叶斯法则如下: 词集模型:...

  • Python3机器学习之04基于概率论的分类方法朴素贝叶斯

    贝叶斯核心 选择具有最高概率的决策是贝叶斯决策理论的核心。 贝叶斯使用 通过已知3个概率来计算位置的概率 特征数量...

  • 朴素贝叶斯算法

    回顾概率知识: sklearn朴素贝叶斯实现APIsklearn.naive_bayes.MultinomialN...

  • Matlab实现多传感器信息融合(D-S证据推论)

    D-S证据理论是对贝叶斯推理方法推广,主要是利用概率论中贝叶斯条件概率来进行的,贝叶斯条件概率需要知道先验概率。而...

网友评论

      本文标题:贝叶斯概率相关知识复习

      本文链接:https://www.haomeiwen.com/subject/lievuctx.html