书名：计算机视觉40例从入门到深度学习：OpenCV-Python
作者：李立宗
出版社：电子工业出版社
出版时间：2022-07-01
ISBN：9787121436857

第15章 机器学习导读

15.3 OpenCV中的机器学习模块

15.3.2 决策树

二、Boosting算法

• 集成学习又称多分类器系统、基于委员会的学习，通过构建并结合多个学习器来完成学习任务。

• 集成学习结构示意图如图15-24所示。

  
  图15-24 集成学习结构示意图

• 集成中的个体学习器可以是同类型的，如都是人工神经网络的，或者都是决策树的，此时集成是“同质”的，其中的个体学习器又称基学习器，也可以是不同类型的，如同时包含神经网络和决策树，此时集成是“异质”的，其中的个体学习器又称组件学习器。

• 集成学习通过对相当数量的个体学习器进行组合，获得比单一学习器显著优越的泛化性能。
  通常情况下，个体学习器是弱学习器，是略优于随机猜测的学习器。

• Boosting是将一组弱学习器组合成强学习器的算法，该算法的基本流程如下。
  ● Step 1：使用初始训练数据训练一个个体学习器1。
  ● Step 2：将个体学习器1预测错的样本比例加大，训练个体学习器2。
  ● Step 3：重复上述过程，直至最后一个个体学习器N。
  ● Step 4：将N个个体学习器加权组合构成集合。

Boosting算法中最具代表性的是自提升适应（Adaptive Boosting，Adaboost）算法。
Adaboost算法解决了Boosting算法在实际执行时遇到的一些困难，可以作为一种从一系列弱分类器构造一个强分类器的通用方法。