今天遇到一个问题,当我想把小数以百分比形式展示时,发现某一些小数乘以100后会变成一个超长小数
这是浮点数计算的bug,由于计算机是用二进制来存储和处理数字,不能精确表示浮点数,而js中没有相应的封装类来处理浮点数运算,直接计算会导致运算精度丢失。
通过各种尝试用这个方法可以解决:
Math.round((t * 10000) / 100)
今天遇到一个问题,当我想把小数以百分比形式展示时,发现某一些小数乘以100后会变成一个超长小数
这是浮点数计算的bug,由于计算机是用二进制来存储和处理数字,不能精确表示浮点数,而js中没有相应的封装类来处理浮点数运算,直接计算会导致运算精度丢失。
通过各种尝试用这个方法可以解决:
Math.round((t * 10000) / 100)
本文标题:浮点数乘除出现超长小数
本文链接:https://www.haomeiwen.com/subject/zcvkartx.html
网友评论