1. 随机种子没固定
参考知乎: https://www.zhihu.com/question/294058968
参考博客:https://www.leiphone.com/news/201706/zt4Dm491Ol58C8Mc.html
- Dropout每次是随机丢弃某些神经元
- 权重参数的随机初始化
- 梯度下降算法一般都会使用随机梯度下降,或者mini batch,在执行每一次前向-单向传播中,用到的样本数据和顺序也是有一定随机性的;
2. 固定随机种子
torch.manual_seed(1234)
torch.cuda.manual_seed(1234)
np.random.seed(1234)
random.seed(1234)
网友评论