决策树学习笔记

概述：
用途：分类 回归
呈树形结构 可以认为是if-then规则的集合 也可以认为是定义在特征空间与类空间上的条件概率分布
有点：模型具有可读性 分类速度快
3个步骤：特征选择 树的生成 树的修剪
学习思想主要来源于id3和c4.5， cart算法

熵：定义随机变量的不确定性