美文网首页
《统计学习方法》-朴素贝叶斯

《统计学习方法》-朴素贝叶斯

作者: Joe_WQ | 来源:发表于2018-11-16 19:10 被阅读0次

date: 2018-1-20
朴素贝叶斯和knn一样,属于懒惰学习方法的一种,假设输入的特征间是独立的,根据先验概率来求最大化后验概率(MAP)。

基本方法

了解这个章节需要复习概率统计的知识,关于概率、条件概率、全概率、最大似然等。
后验概率P(Y=c_k|X=x)=\frac{P(X=x|Y=c_k)P(Y=c_k)}{\sum_k P(X=x|Y=c_k)P(Y=c_k)}
分母都是相同的,去掉分母,分类器变成了
y=\arg \max_{c_k}P(Y=c_k)\prod_j P(X^{(j)}=x^{(j)}|Y=c_k)

算法

朴素贝叶斯本身的算法极其简单,只要算出每个类的概率和将来测试的点分成不同的类的概率就行,但朴素贝叶斯只适合特征间的关联性小,属性个数少的情况,所以有一些变种的算法,像有数据是连续的、有缺失的情况下的算法,还有对关联性的改良算法,这些在周志华老师的《机器学习》上可以看到。

相关文章

  • 统计学习方法笔记(第四章个人笔记)

    统计学习方法笔记(第四章个人笔记) 标签: 统计学习方法 朴素贝叶斯法 描述:朴素贝叶斯法是基于贝叶斯定理与特征条...

  • 朴素贝叶斯法(1) 之 基础概念

    笔记来自《统计学习方法》第四章。 大体分析 朴素贝叶斯的优缺点 优点: 朴素贝叶斯模型发源于古典数学理论,有着坚实...

  • 朴素贝叶斯法解析实践

    教材选用《统计学习方法》,第一版,李航著;代码取自《机器学习实战》,人民邮电出版社; 朴素贝叶斯介绍 朴素贝叶斯法...

  • Naive-Bayes(朴素贝叶斯)

    原理:朴素贝叶斯算法是一个典型的统计学习方法,主要理论基础就是一个贝叶斯公式,贝叶斯公式的基本定义如下: 这个公式...

  • 朴素贝叶斯分类算法

    朴素贝叶斯分类算法多项式和高斯朴素贝叶斯的解释 朴素贝叶斯是一种有监督的机器学习方法,是概率分类器家族的一员。它采...

  • 算法笔记(7)-朴素贝叶斯算法及Python代码实现

    朴素贝叶斯算法有三种类型,分别是贝努利朴素贝叶斯、高斯贝叶斯、多项式朴素贝叶斯。 贝叶斯公式 贝努利朴素贝叶斯 适...

  • 朴素贝叶斯法

    朴素贝叶斯法 朴素贝叶斯法的学习与分类 朴素贝叶斯法的参数估计 朴素贝叶斯实现 高斯朴素贝叶斯实现 使用 skle...

  • 朴素贝叶斯

    朴素贝叶斯法 标签: 统计学习 目录 [TOC] 基本方法   朴素贝叶斯法通过训练数据集学习联合概率分布P(X,...

  • 2017-10-25【作业笔记】

    统计软件Titanic课堂作业 1.朴素贝叶斯 贝叶斯统计:支持度&置信度 有原理&手写实现: 『原创』机器学习算...

  • 朴素贝叶斯(NBM)之后验概率最大化的含义 | 统计学习方法

    朴素贝叶斯 - 贝叶斯估计Python复现: 舟晓南:朴素贝叶斯(Bayes)模型python复现 - 贝叶斯估计...

网友评论

      本文标题:《统计学习方法》-朴素贝叶斯

      本文链接:https://www.haomeiwen.com/subject/kxaefqtx.html