美文网首页机器学习和人工智能入门程序员
Andrew Ng机器学习笔记(一)之简介线性回归

Andrew Ng机器学习笔记(一)之简介线性回归

作者: MintSakura | 来源:发表于2017-09-11 17:35 被阅读0次

什么是线性回归?

在监督学习(supervised learning)中:

  1. x表示输入值;
  2. y表示输出值(也是预测值);
  3. (x(i), y(i))被称为训练样本;
  4. 一组(x(i), y(i)),i=1,...,m,被称为训练集(training set)
注意:这里的上标i指的是序号,而与取幂无关

为了更直观一点,下面是监督学习的流程图(其中h——<b>hypothesis</b>是预测算法生成的线性式):


supervise learning processing

Andrew举了个房价预测的栗子(一个回归的预测):

房价预测 房价预测
这里的房价可以认为是连续的,所以可以模拟一条直线来根据房间面积来预测房价,这就叫线性回归。
但是如果y只是一簇一簇离散的数据,比如根据房屋面积判断是别墅还是平房,那么这样就叫做分类问题。

Cost Function(误差函数)

我们用cost function来评估hypothesis的准确性,这里y(i)是输入为x(i)时的真实值。有时候也称为“Squared error function”或者“Mean squared error”

Cost Function
误差项

cost function如何得来?

  • 在这里由于误差项可正可负,相加时会正负抵消,这样就无法区分没有偏差和政府偏差相抵消时的情况。因此,我们使用误差的平方和,并令其最小,这样的方法也叫做最小平方发(Least Squares Method)。
  • 后面我们就会知道为什么除的是2m而不是m,这里简单说一下:
    除以2m,是用来简化其数据,make it easy。
Cost Function

相关文章

  • Andrew Ng机器学习笔记(一)之简介线性回归

    什么是线性回归? 在监督学习(supervised learning)中: x表示输入值; y表示输出值(也是预测...

  • 多元线性回归

    链接:多元线性回归 NG机器学习公开课笔记:机器学习笔记

  • contour函数

    (Andrew Ng《机器学习》中ex1,线性回归)ontour(X,Y,Z)、contour(X,Y,Z,n) ...

  • logspace函数

    (Andrew Ng《机器学习》中ex1,线性回归)用法:logspace(a,b,n),其中a、b、n分别表示开...

  • mean函数

    (Andrew Ng《机器学习》中ex1,线性回归)M = mean(A)返回沿数组中不同维的元素的平均值。如果A...

  • numel函数

    (Andrew Ng《机器学习》中ex1,线性回归)函数功能:在MATLAB中,该函数用于计算数组中满足指定条件的...

  • std函数

    (Andrew Ng《机器学习》中ex1,线性回归)std函数是用来计算标准偏差的一个函数,由于其有不同的参数,我...

  • 吴恩达机器学习:逻辑回归

    在 上一周的课程 里,Andrew Ng 为我们介绍了什么是机器学习以及监督学习中的线性回归。对于一个监督学习,我...

  • 【机器学习】单一变量的线性回归及python实现

    一、线性回归理论概述 概述大致引用自机器学习之线性回归-AndrewNg学习笔记 注意,此文章的意义在于用符号...

  • 逻辑回归

    点击链接:逻辑回归 NG机器学习公开课笔记:机器学习笔记

网友评论

    本文标题:Andrew Ng机器学习笔记(一)之简介线性回归

    本文链接:https://www.haomeiwen.com/subject/uzsfsxtx.html