实验三、数据挖掘之决策树

一、实验目的

1. 熟悉掌握决策树的原理，

2. 熟练掌握决策树的生成方法与过程

二、实验工具

1. Anaconda

2. sklearn

3. pydotplus

三、实验简介

决策树是一个非参数的监督式学习方法，主要用于分类和回归。算法的目标是通过推断数据特征，学习决策规则从而创建一个预测目标变量的模型。

四、实验内容

1. 自己创建至少2个向量，每个向量至少1个属性和1个类标号，根据向量生成决策树，并利用该决策树进行预测。如：

from sklearn import tree
X = [[0, 0], [1, 1]]
Y = [0, 1]
clf = tree.DecisionTreeClassifier()
clf = clf.fit(X, Y)

clf.predict([[2., 2.]])
clf.predict_proba([[2., 2.]])       #计算属于每个类的概率

image.png

要求根据要求随机生成数据，并构建决策树，并举例预测。

2. 对鸢尾花数据构建决策树，

(1) 调用数据的方法如下：

from sklearn.datasets import load_iris
iris = load_iris()# 从sklearn 数据集中获取鸢尾花数据。

(2) 利用sklearn中的决策树方法对鸢尾花数据建立决策树
(3) 为了能够直观看到建好的决策树，安装 pydotplus, 方法如下：

pip install pydotplus

pydotplus使用方法

import pydotplus #引入pydotplus
dot_data = tree.export_graphviz(clf, out_file=None) 
graph = pydotplus.graph_from_dot_data(dot_data) 
graph.write_pdf("iris.pdf")#将图写成pdf文件

image.png
image.png

(4)（选做） 不使用sklearn中的决策树方法，自己编写决策树构建程序（建议用python语言），并对鸢尾花数据构建决策树。

五、实验总结（写出本次实验的收获，遇到的问题等）

首先通过决策树的原理，加深了对介绍机器学习中决策树算法的理解。并采用 sklearn 中提供的决策树分类器构建预测模型，实现对鸢尾花进行分类。
遇到的问题是对于该方法实现的决策树分类，具体实现过程不太熟悉。