美文网首页
CS229之线性回归

CS229之线性回归

作者: __cbf0 | 来源:发表于2019-04-07 15:44 被阅读0次

ok,这次打算重新刷一遍cs229,也强迫自己做个记录吧,一直都挺佩服那些能把技术文章写得通俗易懂的大神们....

从第二章线性代数开始吧。

目录:

1. 模型的描述和代价函数

2. 梯度下降

3. 线性模型的梯度下降

1. 模型的描述和代价函数

使用误差平方和来作为损失函数,最小化参数

2. 梯度下降

直观地理解梯度下降:

1)只包含一个参数:

目标是找到一个\theta _1, 使得损失函数最小。可以看到J(\theta _1)是凸函数,可以求得全局最小点。

(凸函数:简单的定义是,没有局部最小值,可以用随机梯度下降求得全局最小值的函数形式,像碗状)

2)两个参数:

学会看等高线图

由于初始化的位置不同,可能陷入局部最小点

参数需同时更新


批梯度下降

3. 线性模型的梯度下降


求导的基本功还得再扎实细心些

满足凸函数

相关文章

  • CS229之线性回归

    ok,这次打算重新刷一遍cs229,也强迫自己做个记录吧,一直都挺佩服那些能把技术文章写得通俗易懂的大神们.......

  • 逻辑回归与CS229 newton methed

    CS229 Newton's Method 这节课的重点:逻辑回归牛顿方法指数分布族广义线性模型 逻辑回归 首先,...

  • 23高通量测序-线性模型之线性回归

    线性模型之线性回归 线性回归(Linear Regression)主要思想 使用最小二乘法(least-squar...

  • 2019-10-29

    Day2 简单线性回归模型 机器学习入门--简单线性回归机器学习算法之线性回归算法 导入库matplotlib 绘...

  • CS229之多变量线性回归

    在上一节简单线性回归的基础上,介绍了多元线性回归和多项式线性回归(构造和选择特征)。然后介绍几个具体的优化tric...

  • 机器学习实战——回归

    本章内容】 线性回归 局部加权线性回归 岭回归和逐步线性回归 例子 【线性回归】 wHat = (X.T*X).I...

  • CS229之逻辑回归

    逻辑回归是分类问题的经典解法,本节首先引入sigmod函数,建立问题的假设空间,再介绍LR模型输出的统计意义。与线...

  • CS229 Lesson 1: Linear Model - P

    线性模型是机器学习领域里最基础的模型之一,因此被Andrew NG老师用来开启CS229课程。 线性模型又分为线性...

  • 【机器学习】单一变量的线性回归及python实现

    一、线性回归理论概述 概述大致引用自机器学习之线性回归-AndrewNg学习笔记 注意,此文章的意义在于用符号...

  • 线性回归模型

    参考:1.使用Python进行线性回归2.python机器学习:多元线性回归3.线性回归概念 线性回归模型是线性模...

网友评论

      本文标题:CS229之线性回归

      本文链接:https://www.haomeiwen.com/subject/lkssiqtx.html