美文网首页
js 浮点数精确度如何?0.1 + 0.2 = 0.3 ?

js 浮点数精确度如何?0.1 + 0.2 = 0.3 ?

作者: 有点皮的小黄皮 | 来源:发表于2020-05-26 15:19 被阅读0次
    image.png

    0.1 + 0.2 = 0.30000000000000004。what??有时候这个小小舍入的误差会让我们蒙圈。

    浮点数值精确度

    • 最高精度 17位
    • 舍入误差?了解一下IEEE数值的浮点计算通病

    还是使用整数计算准一点。

    相关文章

      网友评论

          本文标题:js 浮点数精确度如何?0.1 + 0.2 = 0.3 ?

          本文链接:https://www.haomeiwen.com/subject/jxqvahtx.html