之前看斯坦福机器学习的课程对于梯度下降的，环顾四周，沿着下降的方向移动理解不了，今天在网易云课堂上学习神经网络和梯度学习的章节中，终于明白了。以下是图示：
image.png
首先假设成本函数J(w)仅仅有一个变量w，那么假设此时我们初始化的时候点，在最右侧，那么这个点的斜率dJ(w)/dw是一个正数，w= w- adJ(w)/dw 则就相当于左移一点，对于左侧下降的点，则斜率是一个负数，w= w- adJ(w)/dw 相当于向右移动。
之前看斯坦福机器学习的课程对于梯度下降的，环顾四周，沿着下降的方向移动理解不了，今天在网易云课堂上学习神经网络和梯度学习的章节中，终于明白了。以下是图示：
image.png
本文标题：梯度下降的图示
本文链接：https://www.haomeiwen.com/subject/hoidwftx.html
网友评论