美文网首页
js 浮点数精确度如何?0.1 + 0.2 = 0.3 ?

js 浮点数精确度如何?0.1 + 0.2 = 0.3 ?

作者: 有点皮的小黄皮 | 来源:发表于2020-05-26 15:19 被阅读0次
image.png

0.1 + 0.2 = 0.30000000000000004。what??有时候这个小小舍入的误差会让我们蒙圈。

浮点数值精确度

  • 最高精度 17位
  • 舍入误差?了解一下IEEE数值的浮点计算通病

还是使用整数计算准一点。

相关文章

网友评论

      本文标题:js 浮点数精确度如何?0.1 + 0.2 = 0.3 ?

      本文链接:https://www.haomeiwen.com/subject/jxqvahtx.html