美文网首页
机器学习 | Week2-多变量线性回归

机器学习 | Week2-多变量线性回归

作者: Lighfly203 | 来源:发表于2020-07-27 00:01 被阅读0次

作为英语课程,读中文参考资料的确有助于理解,但是出于对以后更长久的学习优势考虑,笔记中我会尽量采用英文来表述,这样有助于熟悉专有名词以及常见语法结构,对于无中文翻译的资料阅读大有裨益。

一、Multiple Variables Linear Regression Algorithm

  1. Multiple Feature多维特征

    • 模型中的特征为(x1,x2,x3.....xn
    • n代表特征数量
    • xi是第i个训练实例,特征矩阵中的第i行,是一个向量Vector
  2. Multiple Variables Linear Regression Algorithm

    • h_\theta(x)=\theta^TX=\theta_0+\theta_1x_1...+\theta_nx_n
      • n+1维
    • J(\theta_0,...\theta_n)=\frac{1}{2m}\sum_{i=1}^{m}(h_\theta(x^i)-y^i)^2
  • \theta_j:=\theta_j-\alpha\frac{1}{m}\sum_{i=1}^{m}((h_\theta(x^i)-y^i)x^j)

二、梯度下降法实践

  1. x_n=\frac{x_n-\mu_n}{s_n}
    1. \mu_n为平均值
    2. s_n为标准差

三、Polynomial Regresssion多项式回归

  1. 多项式回归模型运行梯度下降算法前,必须进行特征缩放

四、正规方法法

  1. 求导
  2. \theta=(X^TX)^{-1}X^Ty

五、Octave教程

  1. 建议用什么上网搜索什么,直接搜索matlab相应语法;Octave体量小容易启动,但是终究是要使用Matlab或者转入python的,不如就用Matlab语法;

  2. size:向量维度或者矩阵维度

  3. who:当前工作空间的所有变量,详细信息whos

  4. 点运算针对元素,否则针对整个矩阵

  5. A'转置

  6. imagesc(A)可视化矩阵,colorbar颜色调,colormap gray灰度图

  7. 循环

    • for i=1:10
    • end
  8. exit/quit

  9. 函数定义(```)

    function y = name(x) 
    y=x^2 
    

    可以定义多个返回变量(很特别,大多数编程语言一个函数只能返回一个值)

六、向量化思维

  1. 很简单:使用向量而非循环来计算
Snipaste_2020-07-05_21-43-57.png

相关文章

  • 机器学习 | Week2-多变量线性回归

    作为英语课程,读中文参考资料的确有助于理解,但是出于对以后更长久的学习优势考虑,笔记中我会尽量采用英文来表述,这样...

  • 2019-10-29

    Day2 简单线性回归模型 机器学习入门--简单线性回归机器学习算法之线性回归算法 导入库matplotlib 绘...

  • Python编写线性回归算法

    Python编写线性回归算法 前言 线性回归(Linear Regression)是机器学习的基础,作为机器学习算...

  • 神经网络(一)

    此篇为coursera上机器学习公开课笔记 一、适用范围 非线性分类问题(特征变量较多,如果用逻辑回归或者线性回归...

  • [线性回归] 多特征线性回归

    1 多特征线性回归 有多个变量的线性回归也叫做多变量线形回归(multivariate linear regres...

  • 机器学习| 第一周:单变量线性回归

    本节主要内容: 机器学习的基本概念、单变量线性回归概念、方法和实际用例 image机器学习(machine lea...

  • [回归] 线性回归 Linear Regression

    线性回归是统计/机器学习中最基础的一个模型,在线性回归的基础上可以拓展出之后相当多的模型,例如逻辑回归。 线性回归...

  • 《机器学习》线性模型公式推导与算法实现

    线性回归 参考西瓜书《机器学习》线性回归 给定训练集,其中,.线性回归(linear regression)试图学...

  • 《机器学习》单变量线性回归

    2.1 模型表示 我们的第一个学习算法是线性回归算法。在这段视频中,你会看到这个算法的概况,更重要的是你将会了解监...

  • 线性回归模型

    回归算法 线性回归 线性回归的定义是:目标值预期是输入变量的线性组合。线性模型形式简单、易于建模,但却蕴含着机器学...

网友评论

      本文标题:机器学习 | Week2-多变量线性回归

      本文链接:https://www.haomeiwen.com/subject/cannlktx.html