美文网首页
(十四、)极限森林

(十四、)极限森林

作者: 羽天驿 | 来源:发表于2020-04-07 08:36 被阅读0次

一、极限森林

特征随机
参数随机
分裂随机
因为分裂是随机的,所以就不需要样本是随机的了

  • 随机森林和极限森林不同之处:
    • 随机森林样本抽样,随机性,而极限森林样本都是固定的
    • 随机森林在分裂的时候,best;极限森林 分裂方式是:random
    • 其他的都是一样的。
  • 好处:
    • 降低模型方差,模型更加稳定(高中同学考试为例,张三,发挥不稳定),鲁棒性增强robust。
    • 偏差变大。集成算法多颗树,有的树,选择类别0,有的选择类别1,最终统计:众数
    • 提升模型的准确率

二、代码的实现

import warnings
warnings.filterwarnings('ignore')
import numpy as np

from sklearn.ensemble import RandomForestClassifier,ExtraTreesClassifier

from sklearn.tree import DecisionTreeClassifier

from sklearn import datasets

from sklearn import datasets

from sklearn.model_selection import train_test_split
import matplotlib.pyplot as plt
from sklearn import tree
X,y = datasets.load_wine(True)
X_train,X_test,y_train,y_test = train_test_split(X,y,random_state = 119)
clf = DecisionTreeClassifier()
clf.fit(X_train,y_train)
clf.score(X_test,y_test)
0.9333333333333333
clf2 = RandomForestClassifier()
clf2.fit(X_train,y_train)
clf2.score(X_test,y_test)
1.0

随机森林,随机抽样

极限森林,不仅有随机抽样,属性裂分随机

'''max_features : int, float, string or None, optional (default="auto")
    The number of features to consider when looking for the best split:'''
clf3 = ExtraTreesClassifier(max_depth=3,max_features=1)
clf3.fit(X_train,y_train)
clf3.score(X_test,y_test)
0.9777777777777777
# 第一颗树样本:45,55,33
plt.figure(figsize=(9,7))
_ = tree.plot_tree(clf3[0],filled=True)
output_6_0.png
# 第二颗树样本:45,55,33
plt.figure(figsize=(9,7))
_ = tree.plot_tree(clf3[1],filled=True)
output_7_0.png
# 第三颗树样本:45,55,33
plt.figure(figsize=(9,7))
_ = tree.plot_tree(clf3[2],filled=True)
output_8_0.png

相关文章

  • (十四、)极限森林

    一、极限森林 特征随机参数随机分裂随机因为分裂是随机的,所以就不需要样本是随机的了 随机森林和极限森林不同之处:随...

  • 森林,十四,求救

    乌石推着芽子走在雨里,他把伞举得很低,雨水打在他的肩膀和背上。 “芽子?”乌石看不到芽子的表情,不过就算看到了也不...

  • 无耻的极限(十四)

    任东和椰露并不是太熟络,以前也没什么交集,尽管这个混子在单位是名声在外,可以说是妇孺皆知,可是以任东低调不好事的性...

  • 森林,三十四,勇气

    芽子今天早上去了一趟Nice修理店,周日他们一般都比较闲。等她到那里的时候发现店铺的卷门半开着,门口的皮卡也不见了...

  • 森林,五十四,预约

    七斗被里浦停止委托后一直呆在公寓里,他觉得有点沮丧,虽然芽子委托自己继续调查,但是总有种半途而废的感觉。里浦那边委...

  • 人的极限是多少?

    人有极限吗?人的极限是多少?今天让我想起前年发倒水的时候,有一位六十四五的老先生,当水到他厂子门口时,水好大,...

  • 夏修心的随笔之《如何珍惜时光》

    人人都知道,生命是有极限的。但是,有几个人发挥了这个极限呢?我们的一天只有二十四小时。扣除睡眠与工作的时间,还能剩...

  • 【简书交友】森林中的陶熙:致和我一样特立独行的你

    昵称:森林中的陶熙 地点:奔波于全国各地 自述: 我是无戒365天极限挑战营四班的陶熙,简书的名字是“森林中的陶熙...

  • 《零极限》第十四章

    故事背后的真相 这不是你的错,但确实你的责任!~~乔.威泰利 这一章让我想到了一个电视连续剧,名字的话有点忘了,大...

  • 森林,四十四,狂欢

    “阿道!”芽子大声喊,她推着轮椅要赶上道远,双手颤抖使不上劲,“山兜,快来帮帮我。”她的声音跟着身体一起颤抖。 山...

网友评论

      本文标题:(十四、)极限森林

      本文链接:https://www.haomeiwen.com/subject/ombvphtx.html