美文网首页
梯度下降

梯度下降

作者: 陈文瑜 | 来源:发表于2019-08-12 10:05 被阅读0次

明确概念

  • 特征(feature)：x_j，比如，房屋的面积x_1，卧室数量x_2都算房屋的特征
  • 特征向量(输入)：x，一套房屋的信息就算一个特征向量，特征向量由特征组成，x_j^{(i)}，表示第i个特征向量的第j个特征
  • 输出向量：y，y^{(i)}表示第i个输入对应的输出
  • 假设(hypothesis)：也称预测函数，比如一个线性预测函数是：
    h_{\theta}(x) = \theta_0+\theta_1x_1+\theta_2x_2+...+\theta_nx_n= \left[\begin{array} {cccc} \theta_0 & \theta_1 & ... & \theta_n \\ \end{array}\right] \left[\begin{array} {cccc} 1 \\ x_1 \\ ... \\ x_n \end{array}\right] = \theta^Tx

上面的表达式也称之为回归方程(regression equation)，\theta为回归系数，这是我们预测准度的基石

误差评估

J(\theta) = \frac{1}{2m}\sum^m_{i=1}(h_\theta(x^{(i)})-y^{(i)})^2
矩阵形式
\theta_0+\theta_1x_1^1+\theta_2x_2^1+...+\theta_nx_n^1 - y^1

相关文章

  • （三）线性回归--梯度下降

    一、梯度下降 二、代码的实现 （一.梯度下降） 导包 构建数据 梯度下降 使用梯度下降，可视化 (二。梯度下降矩阵...

  • 神经网络优化2

    梯度下降 梯度下降法 批梯度下降法（Batch Gradient Descent，BGD）是最常用的梯度下降形式，...

  • 深入浅出--梯度下降法及其实现

    梯度下降的场景假设梯度梯度下降算法的数学解释梯度下降算法的实例梯度下降算法的实现Further reading 本...

  • 机器学习-常用优化方法

    一阶方法：梯度下降、随机梯度下降、mini 随机梯度下降降法。 随机梯度下降不但速度上比原始梯度下降要快，局部最优...

  • ML-梯度下降代码-线性回归为例

    梯度下降代码线性回归为例 bgd 批量梯度下降 sbd 随机梯度下降 mbfd 小批量随机梯度下降

  • 2020-08-19--梯度下降法01

    梯度下降法简介 多元线性回归中的梯度下降法 随机梯度下降法 梯度下降法 的调试 1.梯度下降法简介 不是一个机器学...

  • 机器学习笔记（六）—— 梯度下降

    梯度下降 批量梯度下降（Batch Gradient Descent，BGD） 批量梯度下降法是最原始的形式，它是...

  • 更新权重的方式

    1、SGD 梯度下降(收敛最慢稳定） 梯度下降：+=- * d J() 批量梯度下降：将数据集切分为多批次， 分别...

  • 随机梯度下降法与批量梯度下降法的区别

    批量梯度下降法（batch gradient decent）就是我们平时所说的梯度下降，也就是梯度下降过程中，每次...

  • 梯度下降算法

    1. 三种梯度下降算法： Batch Gradient Descent： 全部样本梯度下降一次，批梯度下降每次更新...

网友评论

      本文标题：梯度下降

      本文链接：https://www.haomeiwen.com/subject/jgxrjctx.html

      延伸阅读

      深度阅读

      • 您也可以注册成为美文阅读网的作者，发表您的原创作品、分享您的心情！

      栏目导航

      热点阅读

      关于我们|服务条款|联系我们|梯度下降|投稿指南|网站地图|RSS订阅|排版工具|手机版

      提供经典美文摘抄,优美散文欣赏,现代诗歌精选,短篇小说,心情随笔,表白情书范文,故事会在线阅读欣赏

      Copyright © 2014-2023 Haomeiwen.com All Rights Reserved. 好美文阅读网 版权所有

      备案信息：桂公网安备 45052102000051号 · 桂ICP备13007215号-3

      本站所收录作品、热点评论等信息部分来源互联网，目的只是为了系统归纳学习和传递资讯

      所有作品版权归原创作者所有，与本站立场无关，如不慎侵犯了你的权益，请联系我们告知，我们将做删除处理！