前言

由于最近在用Bert实现我的idea，其中很多都是直接调用tensorflow中的函数，TPUEstimator就是之一。由于我的代码只显示最后总的loss、precision、recall而不显示loss是如何变化的，导致我调参都是瞎调，于是我就想把loss图画出来（用这个代码已经两个多月了，我现在才想起来把loss画出来，也是够低级的了）。昨晚我是想直接用matplotlib来画，结果试了几下，失败，也到回宿舍的时间了，遂归。回了宿舍我就在想tensorflow是不是有别的函数可以画出loss值呢，tensorboard可视化功能好像挺强的。想是这么想，但今天还是自己鼓捣了一上午，想在tensorboard中画出来，结果失败了。下午便一直google，后来终于google到了一个答案，而且是bert的开发者回答的。

image.png 万万没想到，这竟然是个bug——在CPU/GPU上，TPUEstimator是无法打印loss值的。但是不要着急，接着往下看。

解决

这个issue下有其它答案解决了无法打印loss的问题， image.png

虽然还是没有在tensorboard中可视化，但是现在至少你能看到loss了。
看了下网上的其它方法，好像loss是可以可视化出来的，但我暂时还没有实现，之后会实现它。