美文网首页
点滴笔记(2018年08月24日更新)

点滴笔记(2018年08月24日更新)

作者: cynthia猫 | 来源:发表于2018-08-24 16:15 被阅读13次

    问:浮点数为什么存在精度问题?

    计算机中的浮点数对应于数学当中的小数。简单计算下,32位浮点数最多可以表示2^32个数,但从数学上说区间[0,1]中的小数就有无穷多个。所以计算机是不可能描述得尽的,必然会有一些近似,也就带来了精度损失。

    相关文章

      网友评论

          本文标题:点滴笔记(2018年08月24日更新)

          本文链接:https://www.haomeiwen.com/subject/itqiiftx.html