美文网首页
随机初始化(Random initialization)

随机初始化(Random initialization)

作者: 天际神游 | 来源:发表于2017-09-27 20:25 被阅读0次

在一些算法中,我们需要给θ初始化,例如梯度下降算法。

在一些算法中,不能初始化参数为全零,例如神经网络。
在神经网络中,如果初始化所有的参数(也就是权重)相同,那么所有输入都相同,神经网络就失去了它的作用了。
所以我们需要随机初始化。


Octave中:

为了训练神经网络,我们需要对权重进行随机初始化。

相关文章

网友评论

      本文标题:随机初始化(Random initialization)

      本文链接:https://www.haomeiwen.com/subject/fzcpextx.html