指数加权平均：
动量梯度下降法：
RMSprop：和动量梯度下降法相似
adam优化算法：将动量梯度下降法和RMSprop结合在一起
学习率衰减：
本文标题：2019-11-01第二课二周优化算法
本文链接：https://www.haomeiwen.com/subject/frhfbctx.html
减少梯度下降中某一方向的波动
网友评论