美文网首页
regress函数的最小二乘算法原理

regress函数的最小二乘算法原理

作者: 下水道潜水员 | 来源:发表于2017-08-20 00:08 被阅读0次

得到一组数据时:

比如

产量 13.2 15.1 16.4 17.1 17.9 18.7 19.6 21.2 22.5 24.3

温度   20    25   30   35    40  45    50    55    60    65

要进行拟合,可以用matlab的regress函数

clear all;

x=[13.2 15.1 16.4 17.1 17.9 18.7 19.6 21.2 22.5 24.3]';

X=[ones(10,1) x];

Y=[20 25 30 35 40 45 50 55 60 65]';

[b,bint,r,rint,stats]=regress(Y,X)

rcoplot(r,rint)

z=b(1)+b(2)*x

plot(x,Y,'k+',x,z,'r')

最终得到:

产量=-39.4070+4.4036*温度

其实regress函数用到的是最小二乘算法

即假设在一个 2维坐标上,有很多个点,我们划一条线,直线满足:坐标上所有的点到直线上的距离和最小。

需要先计算拟合优度r:

代码实现:

p=0;

for i=1:10

p=p+x(i)*Y(i);

end

a=sum(p);

b=10*mean(x)*mean(Y);

fenzi=a-b;

c=0;

for i=1:10

c=c+x(i)*x(i)-mean(x)^2;

end

d=0;

for i=1:10

d=d+Y(i)*Y(i)-mean(Y)^2;

end

fenmu=sqrt(c*d);

r=fenzi/fenmu

得到r=0.9910,说明拟合效果非常好,通常大于0.7就可以用来预测。

设方程为y=a+bx

接下来就可以计算系数了

http://blog.csdn.net/marsjohn/article/details/54911788这里有详细的推导过程

也得到产量=-39.4070+4.4036*温度

与用regress函数所得结果相同

相关文章

  • regress函数的最小二乘算法原理

    得到一组数据时: 比如 产量 13.2 15.1 16.4 17.1 17.9 18.7 19.6 21.2 22...

  • 线性回归

    线性回归是机器学习算法的入门,通过该算法,管中窥豹,研究该算法的精髓之处。 线性回归 线性回归的损失函数为最小二乘...

  • 梯度下降算法(gradient descent)

    原理:   每次按照下降的方向进行计算,属于贪心的算法。 算法(就最小二乘法讨论):   若训练集:  训练函数:...

  • ALS交替最小二乘法

    第一部分 算法原理及推导 1.1 算法原理介绍 背景介绍:ALS是交替最小二乘的简称,在机器学习上下文中,ALS...

  • 非线性最小二乘法

    很多问题最终归结为一个最小二乘问题,求解最小二乘的方法也很多。 内容来自Gauss-Newton非线性最小二乘算法...

  • (9)推荐算法

    (1)ALS交替最小二乘算法 ALS指使用交替最小二乘法求解的协同过滤算法。通过观察到的所有用户给产品...

  • 最小二乘拟合

    最小二乘的hypothesis为:其中表示第个样本,表示的第个特征。最小二乘的目标函数为:我们可以通过使沿着其梯度...

  • 矩阵: QR分解 && 最小二乘问题求解

    最小二乘问题分为线性最小二乘问题和非线性最小二乘问题;非线性最小二乘问题求解方法有高斯牛顿法,Levenberg-...

  • k-means算法总结

    目录 一、k-means算法原理 二、k-means算法目标函数是什么 三、总结 一、k-means算法原理 k-...

  • 深入理解卡尔曼滤波

    1. 最小二乘(LS)、加权最小二乘估计(WLS)、递推最小二乘(RLS) 观测方程![](http://late...

网友评论

      本文标题:regress函数的最小二乘算法原理

      本文链接:https://www.haomeiwen.com/subject/okvxdxtx.html