CART算法（分类回归树）

• 可以用来分类，也可以用来回归

回归树

• 回归树与分类树的思路类似，但叶节点的数据类型不是离散型，而是连续型
• 只做二元切分，一个节点的左键和右键要么是子树要么是单个值

树剪枝

• 一棵树如果节点过多，表明该模型可能对数据进行了“过拟合”
• 通过降低决策树的复杂度来避免过拟合的过程是减枝

模型树

• 用树来对数据建模，除了把叶节点设定为常数值之外，还可以把叶节点设定为分段线性函数，分段线性是指模型由多个线性片段组成
• 可以用相关系数来比较模型树跟回归树