美文网首页
浮点数乘除出现超长小数

浮点数乘除出现超长小数

作者: 扶得一人醉如苏沐晨 | 来源:发表于2022-09-29 19:41 被阅读0次

    今天遇到一个问题,当我想把小数以百分比形式展示时,发现某一些小数乘以100后会变成一个超长小数

    这是浮点数计算的bug,由于计算机是用二进制来存储和处理数字,不能精确表示浮点数,而js中没有相应的封装类来处理浮点数运算,直接计算会导致运算精度丢失。

    通过各种尝试用这个方法可以解决:

    Math.round((t * 10000) / 100)

    相关文章

      网友评论

          本文标题:浮点数乘除出现超长小数

          本文链接:https://www.haomeiwen.com/subject/zcvkartx.html