算法笔记（9）-随机森林算法及Python代码实现

随机森林也被称为随机决策森林，是一种集合学习方法，既可以用于分类，也可以用于回归。
随机森林把不同的几棵决策树打包到一块，每棵树的参数都不相同，然后把每棵树预测的结果取平均值，这样既保留决策树们的工作成效，又可以降低过拟合的风险。
集合学习算法：把多个机器学习算法综合在一起，制造出一个更大的模型。应用广泛的包括随机森林、梯度上升决策树。

优点

(1)不需要对数据进行预处理
(2)支持并行处理

缺点

(1)高维数据集、稀疏数据集表现没有线性模型好
(2)消耗内存，速度比线性模型慢
Python代码实现

forest = RandomForestClassifier(n_estimators=25,random_state=3)
forest.fit(X_train, y_train)
#定义图像中分区的颜色和散点的颜色
cmap_light = ListedColormap(['#FFAAAA', '#AAFFAA', '#AAAAFF'])
cmap_bold = ListedColormap(['#FF0000', '#00FF00', '#0000FF'])

#分别用样本的两个特征值创建图像和横轴和纵轴
x_min, x_max = X_train[:, 0].min() - 1, X_train[:, 0].max() + 1
y_min, y_max = X_train[:, 1].min() - 1, X_train[:, 1].max() + 1
xx, yy = np.meshgrid(np.arange(x_min, x_max, .02),
                     np.arange(y_min, y_max, .02))
Z = forest.predict(np.c_[xx.ravel(), yy.ravel()])

#给每个分类中的样本分配不同的颜色
Z = Z.reshape(xx.shape)
plt.figure()
plt.pcolormesh(xx, yy, Z, cmap=cmap_light)

#用散点把样本表示出来
plt.scatter(X[:, 0], X[:, 1], c=y, cmap=cmap_bold, edgecolor='k', s=20)
plt.xlim(xx.min(), xx.max())
plt.ylim(yy.min(), yy.max())
plt.title("Classifier:RandomForest")

plt.show()

输出结果如下图

想要完整代码的朋友，可toutiao号搜索“编程研究坊”关注后私信我，回复“算法笔记9“免费获取