学习笔记
1968133328.jpgBGD (Batch Gradient Decent)批量梯度下降法
867810909.jpgSGD (Stochastic Gradient Decent)随机梯度下降法
MBGD (Mini Batch Gradient Decent)
1851511481.jpg
460092378.jpgMomentum 动量法
1118211865.jpgNAG (Nesterov Accelarated Gradient) 加速梯度下降法
446294705.jpgAdagrad
1635012168.jpg 1963371273.jpgAdadelta
RMSprop
DL中的各种优化器
DL中的各种优化器
Adam
DL中的各种优化器
网友评论