线性回归

作者: zidea | 来源:发表于2019-09-27 21:43 被阅读0次
mxnet.jpg

回归问题

线性回归可以应用在股票预测,房价预测,无人车驾驶、还就就是推荐系统,淘宝或者京东,用户A购买商品 B 可能性也是。李宏毅老师是以预测宝可梦进化为例来讲的线性回归,所谓线性回归就是可以暂时理解根据以往经验(数据)总结出规律来预测未来。

抛出问题

f(x) = 2 \cdot x + 0.5
我们先估计第一个特征方程
然后在估计一个两个特征的特征
f(x_1,x_2) = 2 x_1 + 3 x_2 + 5
今天我们是通过学习来找到这么方程然后,用方程来预测一些值,那么我们如何通过学习来找到这个函数呢。这也就是今天我们今天主要要学习的。

1.定义模型

什么是模型,所谓模型我们认为是一组函数的集合,
y = wx + b
这里我们定义函数
f(x) = w \cdot x + b
在这个函数的参数 w 和 b 可能是任意数值,

f_1 = 0.1x + 2
f_2 = 0.8x + 1
f_3 = 0.75x - 2

这是一个线性模型
y = \sum x_iw_i

收集数据

(x^1,\hat{y}^1) (x^2,\hat{y}^2) \cdots (x^i,\hat{y}^i)

import numpy as np
from matplotlib import pyplot as plt
from mpl_toolkits.mplot3d import Axes3D

# create train data
X1 = np.random.uniform(50,100,100)
X2 = np.random.uniform(100,200,100)

fig = plt.figure()
ax1 = plt.axes(projection='3d')

fig=plt.figure()

Y = np.dot(X1,2) + np.dot(X2,3) + 5

print(Y)

ax1.scatter3D(X1,X2,Y, cmap='Blues')  
plt.show()

评估

评估我们函数好坏,这里定义一个损失函数(用L表示),损失函数是接受我们一个模型一个函数作为参数,那么学过函数编程都知道这就是所谓高阶函数,我们f(x) 是 L的参数。这个函数输出就是通过数值表示这个函数有多好,和多不好。

L(f(x))= L(b,w)
因为我们这里 f(x) 是 b 和 w 决定的,所以我们就可以用 L(b,w)

L(f) = \sum_{i=1}^n(\hat{y}^n = (b + w \cdot x^n ))^2

相关文章

  • 机器学习实战——回归

    本章内容】 线性回归 局部加权线性回归 岭回归和逐步线性回归 例子 【线性回归】 wHat = (X.T*X).I...

  • 线性回归模型

    参考:1.使用Python进行线性回归2.python机器学习:多元线性回归3.线性回归概念 线性回归模型是线性模...

  • 通俗得说线性回归算法(二)线性回归实战

    前情提要:通俗得说线性回归算法(一)线性回归初步介绍 一.sklearn线性回归详解 1.1 线性回归参数 介绍完...

  • 第一次打卡

    线性回归主要内容包括: 线性回归的基本要素线性回归模型从零开始的实现线性回归模型使用pytorch的简洁实现线性回...

  • 2020-02-14

    线性回归:线性回归分为一元线性回归和多元线性回归,一元线性回归用一条直线描述数据之间的关系,多元回归是用一条曲线描...

  • 逻辑回归和线性回归对比

    简单说几点 线性回归和逻辑回归都是广义线性回归模型的特例。他们俩是兄弟关系,都是广义线性回归的亲儿子 线性回归只能...

  • 算法概述-02

    1.逻辑回归和线性回归的联系和区别: 逻辑回归和线性回归的都是广义的线性回归。 线性回归是根据最小二乘法来建模,逻...

  • 【机器学习实践】有监督学习:线性分类、回归模型

    线性模型 为线性模型 分类和回归的区别 分类:离散回归:连续本文主要关注线性回归模型 常用线性回归模型类型 OLS...

  • 统计学习基础复习浓缩版

    1.简单线性回归 2.多元线性回归 3.多项式回归 4.广义线性回归(含逻辑斯谛回归) 广义线性回归模型通过拟合响...

  • Linear Regression

    在线性回归模型中,我们分为单元线性回归和多元线性回归(Multivariate Linear Regression...

网友评论

    本文标题:线性回归

    本文链接:https://www.haomeiwen.com/subject/qjoauctx.html