美文网首页算法杂货铺
对于树模型的一些见解

对于树模型的一些见解

作者: 迈巴赫棉拖 | 来源:发表于2016-06-13 10:36 被阅读110次

  首先树模型根据根据基于决策树和回归树可分为分类模型和回归模型。

  对于分类和回归问题来说,不同的地方在于,对回归树来说可以不单单是取叶子节点的均值作为预测值,也可以取叶子节点的中位数或者别的一些合理的统计值来作为预测值。(自己想的)

    树模型是基于特征进行特征空间的划分(基于信息熵之类的),然后对划分好的叶子节点进行赋值。不会超过已有的最大值也不会低于已有的最小值。对于预测趋势的问题来说(例如天池竞赛阿里流行音乐预测),并不能很好的代表趋势走项,最多是在已有的值区间内进行波动。

   接下来说说随机森林的随机性,第一是在选择特征的时候进行无放回的提取,二是在进行样本取样的时候进行有放回的抽样(在抽样次数趋于无穷时只能抽取0.63左右的原始样本)。这在一定程度上增强了抗干扰能力,但在样本不均衡的情况下还是会产生过拟合的情况,此时就要调整样本权重或者对数据进行重采样。

总而言之,树模型就是一系列的规则,不过是机器依据一些目标选取的最优或者局部最优的规则而已。

相关文章

  • 对于树模型的一些见解

    首先树模型根据根据基于决策树和回归树可分为分类模型和回归模型。 对于分类和回归问题来说,不同的地方在于,对回归...

  • 对于InnoDB索引的一些见解

    索引,大家非常熟悉也是用的非常多的东西,在数据库中正确有效使用索引能使查询效率大大提高。那么索引到底是怎么工作的呢...

  • 对于一些小问题的见解(二)

    10.23 旅行类问答 Q:作为一个女生,如何自己一个人去旅行? 作为在年轻的时候经常独自旅行,走过欧洲,东南亚和...

  • 对于职场生活的见解

    谨记:“少一些心里话 保持距离 保持礼貌” 职场生活少交心,无数活生生的例子告诉我们,不要和同事相处的没有距离感,...

  • 我对于“无聊”这个状态的一些见解

    记得以前有一段时间处在深深的无聊当中。那时候也不学习,也没有目标,浑浑噩噩的。一个人坐着发呆。 我讨厌无聊的状态,...

  • 分类算法处理缺失值

    整体而言,树模型+bayes对于缺失值都不太敏感;涉及到度量问题的模型(SVM+KNN)就相对敏感。 决策树 其实...

  • 简年9:对于小白写作的一些见解

    在我写了一篇《一个新手谈谈来到简书25天的感受》下面评论很多,有新手的鼓励,也有一些大神的鼓励。还有一些简友发私信...

  • 2020-02-25《病毒来袭》读书笔记

    契机:此次新冠疫情 目的:1、了解专业人员对于病毒的见解;2、了解并掌握病毒相关的心智模型,进而更加专业的了解此次...

  • 子木对于副业的见解

    于是有人问,彩票和创业都属于一个性质。那么普通年轻人想致富还有机会吗?这里子木只能给你一个建议:不要妄图自己能快速...

  • 对于在线教育的见解

    在线教育教学,成为当前热门的话题,借助网络打卡上课成为很多教育者以及家长关注和支持的教育方式,而面对这样的情况,也...

网友评论

    本文标题:对于树模型的一些见解

    本文链接:https://www.haomeiwen.com/subject/bbrydttx.html