问:浮点数为什么存在精度问题?
计算机中的浮点数对应于数学当中的小数。简单计算下,32位浮点数最多可以表示2^32个数,但从数学上说区间[0,1]中的小数就有无穷多个。所以计算机是不可能描述得尽的,必然会有一些近似,也就带来了精度损失。
问:浮点数为什么存在精度问题?
计算机中的浮点数对应于数学当中的小数。简单计算下,32位浮点数最多可以表示2^32个数,但从数学上说区间[0,1]中的小数就有无穷多个。所以计算机是不可能描述得尽的,必然会有一些近似,也就带来了精度损失。
本文标题:点滴笔记(2018年08月24日更新)
本文链接:https://www.haomeiwen.com/subject/itqiiftx.html
网友评论