美文网首页
线性回归笔记

线性回归笔记

作者: 程序媛啊 | 来源:发表于2020-10-21 20:28 被阅读0次

参考:
https://www.jianshu.com/p/310c9493b66d
https://blog.csdn.net/weixin_39445556/article/details/81416133

一、模型评估的方法

1、用代价函数(cost function)来对模型的优劣打分。例如:在线型回归中,表示方式可以有无限条直线。代价函数就是对每条线的优劣进行打分。“最佳路线”的代价最小。
2、交叉验证


image.png
image.png

2、Confusion Matrix-混淆矩阵


image.png
3、召回率和精确率
image.png image.png
image.png

将Precision 和 Recall结合到一个称为F1 score 的指标,调和平均值给予低值更多权重。 因此,如果召回和精确度都很高,分类器将获得高F 1分数。


image.png

4、阈值对结果的影响


image.png
image.png

5、ROC评估


image.png
image.png

二、线性回归实验分析

1、线性回归方程实现


image.png

2、梯度下降


image.png
image.png
image.png
image.png

3、数据标准化


image.png
4、批量梯度下降、随机梯度下降和minibatch梯度下降
不同学习步长的批量梯度下降:
image.png
image.png
5、三中梯度下降策略的比较
image.png

三多项式回归

1、弯曲的拟合曲线


image.png
image.png

2、数据样本数量对结果的影响


image.png
3、纬度越高越复杂越过拟合
image.png

四、正则化

image.png
image.png
image.png
image.png

相关文章

网友评论

      本文标题:线性回归笔记

      本文链接:https://www.haomeiwen.com/subject/vrvkmktx.html