美文网首页
小批量梯度下降(Mini-Batch gradient desc

小批量梯度下降(Mini-Batch gradient desc

作者: 天际神游 | 来源:发表于2017-10-07 22:21 被阅读0次

    小批量梯度下降(介于批量梯度下降和随机梯度下降之间)。
    b称为小批量大小,一次训练b个样本,然后一直下去。训练一次,就更新了一次参数值。

    小批量梯度下降利于向量化,计算速度有时候可以超过随机梯度下降。但是麻烦的是我们需要选择b的值,一般来说2-200都是可以的。

    相关文章

      网友评论

          本文标题:小批量梯度下降(Mini-Batch gradient desc

          本文链接:https://www.haomeiwen.com/subject/ioysyxtx.html