美文网首页
Tensorflow中float、batch-size与merr

Tensorflow中float、batch-size与merr

作者: 观海听涛_e156 | 来源:发表于2019-03-09 21:21 被阅读0次

tensorflow的train的过程中,发现了float设成默认的float(默认值是float64)时会出现merroy error,同样的程序在服务器(大内存,强GPU)上没毛病。

解决:遂将精度降低,设置为float32,这时merroy error没有了,但是又报GPU显存不足的错误,将batch-size降低,问题解决,程序正常训练。

相关文章

网友评论

      本文标题:Tensorflow中float、batch-size与merr

      本文链接:https://www.haomeiwen.com/subject/aygepqtx.html