深度学习正则化

偏差与方差

数据集划分

image.png
image.png

过拟合和欠拟合

image.png
image.png
image.png

解决方法：

image.png
高方差是过拟合，高偏差是欠拟合。

正则化

image.png

逻辑回归的L1与L2正则化

image.png
image.png
image.png

正则化项理解

image.png
image.png

神经网络的正则化

image.png

正则化为什么能够防止过拟合

image.png

droupout正则化

image.png
image.png
image.png
image.png
image.png
image.png

其他正则化方法

早停止法

image.png

数据增强

image.png

类别：

image.png

数据增强技术：

image.png
image.png
image.png
还有平移、缩放等等

数据增强的效果：

image.png

正则化的练习

题目：

image.png

L2正则化：

image.png
image.png

droupout的前向传播

image.png

D2=np...那行应该是A2.shape[0]，A2.shape[1]

image.png

droupout的效果会好一些