机器学习-K近邻算法 & 决策树

二、决策树的构建准备工作

（ 0 ）足够多的数据

（一）特征选择

1. 目的：选取对训练数据有分类能力的特征

2. 如何选择最优的特征来划分？

一般而言，随着划分过程不断进行，我们希望决策树的分支节点所包含的样本 尽可能属于同一类别，也就是节点的纯度(purity)越来越高

来自【菊安酱的机器学习】