美文网首页
深度学习笔记 - 线性模型

深度学习笔记 - 线性模型

作者: 上弦同学 | 来源:发表于2018-12-02 09:23 被阅读0次
线性模型 :

给定许多数据点,找到一个函数拟合这些数据点,使其误差最小。


image.png
image.png

线性模型,是试图学习一个通过属性的线性组合来进行预测的函数。
w b都是需要学习的参数,模型通过不断调整w,b,得到一个使得损失函数最小的优化模型。

线性模型有很好的可解释性,权重的大小可以表示这个属性的重要程度。

优化参数的核心在于y'和y之前差别最小(拟合效果好),可以用均方误差来衡量误差。

数学解释

找到w* b*,使得


image.png

基于均方误差最小化来进行模型求解的办法称为"最小二乘法“

求连续函数的最小值,那么只需要让它的偏导数等于0

image.png

可以得到w,b的最优解:


image.png

相关文章

  • 深度学习笔记 - 线性模型

    线性模型 : 给定许多数据点,找到一个函数拟合这些数据点,使其误差最小。 线性模型,是试图学习一个通过属性的线性组...

  • 深度学习——线性因子模型

    《深度学习》part3的笔记 线性因子模型是一种最简单的基于潜变量的概率模型;它通过对h的线性变换以及添加噪声来生...

  • 【深度学习实践】01. 线性回归

    线性模型既是机器学习中最基础的学习模型,也是深度神经网络中的神经元基础。而线性回归是借助线性模型解决一个或者多个自...

  • 深度学习

    深度学习:通过多层非线性变换对高复杂性数据建模算法的合集。 线性模型的局限性 线性模型的最大特点是任意线性模型的组...

  • 深层神经网络

    深度学习 有两个非常重要的特性:多层和非线性 非线性: 线性模型的输出结果为输入的加权和。线性模型的最大特点是任意...

  • 《机器学习》西瓜书学习笔记(二)

    上一篇笔记在这里:《机器学习》西瓜书学习笔记(一) 第三章 线性模型 3.1 基本形式 线性模型:试图学得一个通过...

  • Python机器学习基础教程学习笔记(5)——线性模型(回归)

    Python机器学习基础教程学习笔记(5)——线性模型(回归) 1 线性回归处理wave数据集 1.1 wave数...

  • Tensorflow学习-No.1

    0 深度学习模型训练入门 如何通过tensorflow训练最简单的全连接网络,生成线性回归模型。 来自https:...

  • 神经网络

    学习非线性规律 深度神经网络 在传统线性模型中,每一个模型有一些输入x 特征 每个输入都有权重w值,这些权重以线性...

  • 线性回归学习笔记

    一、“线性回归—从模型函数到目标函数”学习笔记 1、线性函数: y = a+ bx,就是这章要学的模型函数。...

网友评论

      本文标题:深度学习笔记 - 线性模型

      本文链接:https://www.haomeiwen.com/subject/zlmnqqtx.html