美文网首页
线性回归的总结

线性回归的总结

作者: Jsjwoemhd | 来源:发表于2018-05-07 22:50 被阅读0次

  总结

The assumptions  of the linear regression

[喵喵] XanY exit linear relationship(看散点图进行判断)

[喵喵]X is not random , or X is uncorrelated with the Error term(x和y的协方差为0)

[喵喵]the expected value of the Error term  is 0, the variance is constant ( homoskedastic, 否则会有异方差性)

[喵喵]the Error term is uncorrelated across observation (相互之间是独立的,不然会存在序列相关性)

[喵喵]the Error  term is normal  distribution

  多元的还要再加上不存在多重共线性

[二哈][二哈][二哈][二哈][二哈]

  measure of fit

R ^ 2和adjusted R ^ 2(多元)

R^ 2= explained sum of squares / total sum of squares ( 表示了自变量对因变量的解释力度)

(一元回归,还是相关系数Correlation  Coefficient )(R^ 2是Coefficient of Determination  )

the difference (相关系数衡量的是两个变量之间的关系,而R ^ 2不表示,且可以衡量多个变量)

[摊手]随着回归中的变量增加,R ^ 2会增加,并不是因为建立的关系有多符合( the problem is often referred to as Overestimateing the regression )

[摊手]异方差性(heteroskedasticity)

可以分成条件异方差(Error term 随自变量的变动而变动)和非条件异方差

条件异方差对回归有影响,而非条件异方差则无影响

影响  不影响b1(Coefficient estimates)

        影响T 检验中的标准误

        变大    更容易落尽拒绝域 更容易拒绝原假设(null hypothesis )

          变小    则相反

[摊手]serial Correlation (autocorrelation ) 序列相关性

  Error  term 之间相关

  经常被发现in time series data

正的 正大大大  负的  正小小

[摊手]multicollinearity多重共线性

两个或两个以上的independent  variable  are highly correlated With each  others

In practice , a matter of degree rather than of absence or presence

检验的方法

假设检验  T 检验拒绝原假设(存在因变量的系数为0)

        F检验

相关系数矩阵  任何两个因变量的相关系数absolute  value都>0.7

纠正的方法

去掉多余自变量

相关文章

  • 线性回归大家族

    目录 1、线性回归大家族谱 2、总结 1、线性回归家族谱 2、总结:本文中,大家学习了多元线性回归,岭回归,Las...

  • 回归算法学习

    回归算法是机器学习中的经典算法之一,本文是对学习线性回归和逻辑回归算法进行的总结,线性回归与逻辑回归算法解决的分别...

  • 逻辑回归

    链接:1. 线性回归总结2. 正则化3. 逻辑回归4. Boosting5. Adaboost算法 线性回归是通过...

  • 线性回归

    线性回归是机器学习中最基础最简单的回归算法了,现在关于线性回归的原理做一个总结。 关于线性的概念,其实在高中就有了...

  • 线性模型—— 一元线性回归算法推导

    目录 一、线性模型原理 二、线性回归与最小二乘法 三、一元线性回归公式推导 四、总结 线性模型原理:给定d个属性x...

  • 线性回归的总结

    总结 The assumptions of the linear regression [喵喵] XanY ex...

  • 线性模型——多元线性回归算法推导

    目录· 一、多元线性回归推导 二、总结 多元线性回归推导 整体思路: 步骤: 1、将w和b组合成: 凸集定义:设集...

  • 机器学习实战——回归

    本章内容】 线性回归 局部加权线性回归 岭回归和逐步线性回归 例子 【线性回归】 wHat = (X.T*X).I...

  • 第一次打卡

    线性回归主要内容包括: 线性回归的基本要素线性回归模型从零开始的实现线性回归模型使用pytorch的简洁实现线性回...

  • 线性回归模型

    参考:1.使用Python进行线性回归2.python机器学习:多元线性回归3.线性回归概念 线性回归模型是线性模...

网友评论

      本文标题:线性回归的总结

      本文链接:https://www.haomeiwen.com/subject/ixpbrftx.html