第一个问题：如何产生好而不同的基学习器？
在2-1中证明集成后错误率降低的一个前提是，基学习器的错误率相互独立。假设我们在同一个样本集上用同一套参数训出若干个基学习器，理论上这些个学习器是一毛一样的。大白话来说就是在进行样本预测时，一对都对，一错都错，这样集成起来就也不会有神马改进作用了。
所以我们希望学习器之间尽可能的相互独立，或者叫好而不同。这样在进行样本预测时，有些能预测对，有些能预测错，但因为错误率都是低于0.5的，所以概率学上来说预测对的总是占多数，这样我们通过投票表决就能大大改善模型的预测作用了。
第二个问题：基学习器如何生成？以及生成后以什么方式组合在一起？
前面举得栗子是一种最简单的生成方式，相当于各个基学习器的生成没什么关系，各生成各的，但这是相对简单的方式，还有更复杂的。
如何组合在一起，投票表决是一种最简单的方式，但还是那句话，有更复杂的方式。
第一个问题：如何产生好而不同的基学习器？ 在2-1中证明集成后错误率降低的一个前提是，基学习器的错误率相互独立。假...
前言 上节我们讲了： Android云通信IM系列(1)-集成与配置 Android云通信IM系列(2)-基本问题...
可以参考两个文章： 机器学习入门（五）：集成学习Bagging，Boosting，RandomForest和Gri...
用基本问题寻找相似性 不同领域的知识应该是解决相似的基本问题 我们学习各个领域的知识时，都仅仅是为了学习知识而学习...
ML——集成学习 个体与集成 集成学习：构建并结合多个学习器来完成学习任务。 同质：集成中只包含同种类型的个体学习...
机器学习集成学习与boosting模型 机器学习中的集成学习 顾名思义，集成学习（ensemble learnin...
这次主要学习的知识点是：集成学习方法、深度学习中的集成学习和结果后处理思路。 1、集成学习方法 在机器学习中的集成...
08 集成学习 - XGBoost概述09 集成学习 - XGBoost公式推导10 集成学习 - XGBoost...
集成学习 个体与集成 集成学习通过构造多个学习器来完成学习任务。集成学习的构造是先产生一组个体学习器，然后用某种策...
学习英语语法，首先要明确两个基本问题，然后才是各种细枝末节的问题。哪两个问题才是最基本的问题呢？ 我们探讨的是句法...
本文标题：集成学习的两个基本问题
本文链接：https://www.haomeiwen.com/subject/oldkhqtx.html
网友评论