美文网首页
12-分类算法-决策树、随机森林

12-分类算法-决策树、随机森林

作者: jxvl假装 | 来源:发表于2019-10-01 14:49 被阅读0次

决策树

生活中的决策树模型:


在这里插入图片描述

显然:判断依据的重要性从前往后越来越小

信息的度量和作用

在不知道任何信息的情况下猜测32支球队中的冠军:如果用二分法,需要猜5次,即需要的代价为5bit,这个5bit我们称之为信息熵(H)
5 = -(1/32log(1/32) + 1/32log(1/32) + ... + 1/32log(1/32))

公式:概率log概率 之和


在这里插入图片描述

如果我们知道了一些球队的信息,需要的代价会小于5bit
5 > -(1/4log(1/32) + 1/8log(1/32) + ... + 1/24log(1/32))

信息熵越大(比如,当每个球队的夺冠几率相等),不确定性越大

结合决策数,之所以我们先对某些条件进行判断,是因为能够减少我们更多的不确定性

决策树的划分依据——信息增益

信息增益:当得知一个条件之后,减少的信息熵的大小

在这里插入图片描述 在这里插入图片描述
常见决策树使用的算法
  • ID3:信息增益 最大的准则
  • C4.5:信息增益比 最大的准则
  • CART
    • 回归树: 平方误差 最小
    • 分类树: 基尼系数 最小的准则 在sklearn中可以选择划分的默认原则。基尼系数的划分比信息增益更加仔细

决策树的api

在这里插入图片描述
案例:泰坦尼克号乘客生存状态

在泰坦尼克号和titanic2数据帧描述泰坦尼克号上的个别乘客的生存状态。在泰坦尼克号的数据帧不包含从剧组信息,但它确实包含了乘客的一半的实际年龄。关于泰坦尼克号旅客的数据的主要来源是百科全书Titanica。这里使用的数据集是由各种研究人员开始的。其中包括许多研究人员创建的旅客名单,由Michael A. Findlay编辑。
我们提取的数据集中的特征是票的类别,存活,乘坐班,年龄,登陆,home.dest,房间,票,船和性别。乘坐班是指乘客班(1,2,3),是社会经济阶层的代表。
其中age数据存在缺失。

import pandas as pd
from sklearn.feature_extraction import DictVectorizer
from sklearn.model_selection import train_test_split
from sklearn.tree import DecisionTreeClassifier
from sklearn.tree import export_graphviz
def decision():
    """
    决策树对泰坦尼克进行预测生死
    :return: None
    """
    #获取数据
    taitan = pd.read_csv("http://biostat.mc.vanderbilt.edu/wiki/pub/Main/DataSets/titanic.txt")
    #处理数据,找出特征值和目标值
    x = taitan[['pclass', 'age', 'sex']]
    y = taitan[['survived']]
    print(x)
    #缺失值处理
    x['age'].fillna(x['age'].mean(), inplace=True)
    #分割数据集到训练集和测试集
    x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25)

    #进行处理(特征工程):当特征是类别的信息需要进行one-hot编码
    dict = DictVectorizer(sparse=False)
    x_train = dict.fit_transform(x_train.to_dict(orient="records")) #to_dict的参数,把一行转换成一个字典
    print(dict.get_feature_names())
    x_test = dict.fit_transform(x_test.to_dict(orient="records"))
    print(x_train)

    #用决策树进行预测
    dec = DecisionTreeClassifier(max_depth=5)   #参数限定决策树的深度
    dec.fit(x_train, y_train)
    print("预测的准确率为:",dec.score(x_test, y_test))

    #导出决策树的结构
    export_graphviz(dec, out_file="./tree.dot", feature_names=['年龄', 'pclass=1st', 'pclass=2nd', 'pclass=3rd', '女性', '男性'])
    #导出的文件用Graphviz打开
    return None

if __name__ == "__main__":
    decision()

决策树部分图例:


在这里插入图片描述

决策树的优缺点以及改进

优点:

  • 简单理解和解释,数目可视化
  • 需要很少的数据准备,其他技术通常需要数据归一化

缺点:

  • 决策树学习者可以创建不能很好地推广数据的过于复杂的树,这被称为过拟合

改进:

  • 减枝cart算法:如果是用sklearn,在DecisionTreeClassifier中指定超参数即可
  • 随机森林:准确率非常高

集成学习方法

集成学习通过建立几个模型组合的来解决单一预测问题。它的工作原理是生成多个分类器/模型,各自独立地学习和作出预测。这些预测最后结合成单预测,因此优于任何一个单分类的做出预测。

随机森林是一个包含多个决策树的分类器,并且其输出的类别是由个别树输出的类别的众数而定。

随机森林建立多个决策树的过程:

  1. 单个决策树的建立过程:

    • 随机在N个样本当中选择一个样本,重复N次 可能重复
    • 随机在M个特征中选出m个特征
  2. 建立多颗决策树,样本、特征大多不一样 随机有放回的抽样,称bootstrap抽样

ps:为什么要随机抽样?避免每颗树的训练集的一样,那么最终训练出的上面的分类结果也是完全一样的

  • 随机森林的api


    在这里插入图片描述

随机森林案例:

import pandas as pd
from sklearn.feature_extraction import DictVectorizer
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import GridSearchCV
def randomforest():
    """
    随机森林对泰坦尼克进行预测生死
    :return: None
    """
    #获取数据
    taitan = pd.read_csv("http://biostat.mc.vanderbilt.edu/wiki/pub/Main/DataSets/titanic.txt")
    #处理数据,找出特征值和目标值
    x = taitan[['pclass', 'age', 'sex']]
    y = taitan[['survived']]
    print(x)
    #缺失值处理
    x['age'].fillna(x['age'].mean(), inplace=True)
    #分割数据集到训练集和测试集
    x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25)

    #进行处理(特征工程):当特征是类别的信息需要进行one-hot编码
    dict = DictVectorizer(sparse=False)
    x_train = dict.fit_transform(x_train.to_dict(orient="records")) #to_dict的参数,把一行转换成一个字典
    print(dict.get_feature_names())
    x_test = dict.fit_transform(x_test.to_dict(orient="records"))
    print(x_train)
    rf = RandomForestClassifier()
    #网格搜索与交叉验证
    param = {"n_estimators":[120, 200, 300, 500, 800, 1200], "max_depth":[5, 8, 15, 25, 30]}
    gc = GridSearchCV(rf, param_grid=param, cv=5)
    gc.fit(x_train, y_train)
    print("预测的准确率为:", gc.score(x_test, y_test))
    print("查看选择的参数模型:", gc.best_estimator_)
    print("最佳的参数:", gc.best_params_)
    #注意:随机森林的图不支持导出
    return None

if __name__ == "__main__":
    randomforest()

随机森林的优点:

  • 在当前所有算法中,具有极好的准确率
  • 能够有效地运行在大数据集上(大体现在样本数和特征数两方面)
  • 能够处理具有高维特征的输入样本,而且不需要降维
  • 能够评估各个特征在分类问题上的重要性
  • 对于缺省值问题也能够获得很好得结果

随机森林几乎没有缺点

相关文章

  • 用决策树和随机森林解决泰坦尼克号沉没问题

    决策树和随机森林既可以解决分类问题,也可以解决预测问题。 随机森林属于集成算法,森林从字面理解就是由多棵决策树构成...

  • 随机森林

    随机森林(RandomForest), 可用于分类或者回归, 相比较决策树的算法, 随机森林是由多棵CART(Cl...

  • 2020-05-14

    svm分类、随机森林、决策树、线性回归、K-means算法、朴素贝叶斯

  • 分类算法 - 随机森林

    一、定义 上次我写了决策树算法,决策树可以解决分类问题,也有CART算法可以解决回归问题,而随机森林也和决策树非常...

  • 12-分类算法-决策树、随机森林

    决策树 生活中的决策树模型: 显然:判断依据的重要性从前往后越来越小 信息的度量和作用 在不知道任何信息的情况下猜...

  • 随机森林、EM、HMM、LDA

    随机森林(Random Forest)是一种分类和回归算法,它包含了多个决策树,形成一个森林,随机森林的类别是所有...

  • 随机森林算法简介

    随机森林是一种包含多个决策树的分类器。随机森林的算法是由Leo Breiman和Adele Cutler发展推论出...

  • 机器学习算法分类

    机器学习算法分类 监督学习(预测)分类:K-近邻算法、贝叶斯分类、决策树与随机森林、逻辑回归、神经网络回归:线性回...

  • Random Forests|python

    随机森林算法是一个监督算法用来分类和做回归。 原理 随机森林通过建立多颗决策树,合并他们的结果来得到一个更精确更稳...

  • 决策树(DecisionTree)和随机森林(Random Fo

    Random Forest(随机森林)算法是通过训练多个决策树,生成模型,然后综合利用多个决策树进行分类。 1. ...

网友评论

      本文标题:12-分类算法-决策树、随机森林

      本文链接:https://www.haomeiwen.com/subject/acluuctx.html