美文网首页uni
math.js解决js精度丢失情况

math.js解决js精度丢失情况

作者: litielongxx | 来源:发表于2022-02-11 09:53 被阅读0次

math.js
当遇到浮点float即小数点(1.1*100000000)会发现不等于1.1而是110000000.00000001。
又或者120.6/3计算器为40.2可实际为40.199999999999996。
因进制数不能忽视时即需要math.js,属于JavaScript数学库,适用于js和node。

1 引入math.js参考其余

printFn(value) {
    const precision = 14
    // 格式化数据
    return Number(math.format(value, precision))
  }
printFn(120.6/3)
printFn (1.1*100000000)

其余常见方法

math,add // 加
,subtract // 减
,multiply // 乘
.divide()  // 除

参考:https://www.jianshu.com/p/4f63f0003a56

相关文章

网友评论

    本文标题:math.js解决js精度丢失情况

    本文链接:https://www.haomeiwen.com/subject/dpznkrtx.html