美文网首页机器学习
Python数据分析与机器学习38-Xgboost算法

Python数据分析与机器学习38-Xgboost算法

作者: 只是甲 | 来源:发表于2022-07-31 10:31 被阅读0次

一. 集成算法简介

下图是一个集成算法的图解:
y = wx +b
第一个树用来求权重值w
第二个树用来求截距 b
多个树结合在一起,模型整体的实用性更佳。


image.png

二. Xgboost集成算法简介

下图是集成算法的公式:


image.png

目标函数:

image.png

如何最优函数解?

image.png

集成算法的表示:

image.png image.png

现在还剩下一个问题,我们如何选择每一轮加入什么f呢?答案是非常直接的,选取一个f来使得我们的目标函数尽量最大地降低


image.png image.png image.png image.png

通过公式,将样本上遍历转换为在叶子节点上遍历


image.png image.png image.png

三. 图解Xgboost算法

image.png image.png image.png image.png

参考:

  1. https://study.163.com/course/introduction.htm?courseId=1003590004#/courseDetail?tab=1

相关文章

  • Python数据分析与机器学习38-Xgboost算法

    一. 集成算法简介 下图是一个集成算法的图解:y = wx +b第一个树用来求权重值w第二个树用来求截距 b多个树...

  • 机器学习实战

    机器学习实战 [tag]人工智能,机器学习,可视化,数据分析,k近邻,python,监督机器学习算法, [cont...

  • 2021新书:《Python机器学习算法与实战》

    本书基于Python语言,结合实际的数据集,介绍如何使用机器学习与深度学习算法,对数据进行实战分析。本书在内容上循...

  • 大数据技术基础

    大数据技术基础 [tag]大数据技术,机器学习,数据分析,挖掘,python,算法, [content]适合初学者...

  • 现在开始还算晚吗?

    半年学习计划: 编程技巧提高:C/C++ PYTHON为主要 数据结构 数据库学习 机器学习 算法 数据挖掘分析 ...

  • kaggle博客

    数据挖掘完整流程机器学习基础与实践(一)----数据清洗 10 种机器学习算法的要点(附 Python 和 R 代...

  • iOS 机器学习(Core ML) -- (一)集成已有模型

    一、机器学习 机器学习就是通过对数据进行分析,来改进优化算法。机器学习有三个要数:数据、学习算法、模型。 数据:机...

  • 机器学习

    Python机器学习 预测分析核心算法 实用机器学习 实变函数 腾讯QQ音乐招聘 机器学习算法工程师 25k-35...

  • 机器学习 -- 绪论(一)人工智能定义

    课程内容安排 机器学习绪论 Python语言基础 分类算法及应用实践 回归算法及应用实践 聚类算法与关联分析 深度...

  • 从人肉到智能,阿里运维体系经历了哪些变迁?

    机器智能的前提是需要有数据,AIOps的数据从哪里来?如何利用数据代替机器决策、分析?如何利用机器学习算法与基于大...

网友评论

    本文标题:Python数据分析与机器学习38-Xgboost算法

    本文链接:https://www.haomeiwen.com/subject/tepeirtx.html