美文网首页
VUE-解决计算精度问题

VUE-解决计算精度问题

作者: 你这个锤子 | 来源:发表于2022-11-03 17:59 被阅读0次
安装依赖

npm install mathjs --save
全局挂载 main.js
import math from 'mathjs'
Vue.prototype.$math= mathjs

math.add( ) // 加
math.subtract( ) //减
math.divide( ) // 除
math.multiply( ) // 乘
math.sqrt(4) // 开方
math.bignumber() // 大数字 BigNumber进行计算要比使用Number进行计算慢得多,但可以任意精度执行。通过使用较高的精度,不太可能发生舍入错误。
math.format()  // 防止输出中出现舍入错误
实例
  • 加法
console.log(0.1 + 0.2) // 0.30000000000000004
// 使用math.js之后
const a= math.format(
  math.add(
    math.bignumber(0.1),math.bignumber(0.2)
  )
)
console.log(a) // 0.3
  • 减法
console.log(1 - 0.9) // 0.09999999999999998
// 用math.js之后
const b= math.format(
  math.subtract(
      math.bignumber(1), math.bignumber(0.9)
  )
)
consol(b) // 0.1
  • 乘法
console.log(10 * 1.2 * 0.3) // 3.5999999999999996
// 用math.js之后
const c = math.format(
  math.multiply(
      math.bignumber(10), math.bignumber(1.2), math.bignumber(0.3)
  )
)
console.log(c) // 3.6
  • 除法
console.log(1.2 / 3) // 0.39999999999999997
// 用math.js之后
const d = math.format(
  math.divide(
      math.bignumber(1.2), math.bignumber(3)
  )
)
console.log(d) // 0.4

参考文档:
math.js 中文网 (mathjs.cn)

相关文章

  • VUE-解决计算精度问题

    安装依赖 npm install mathjs --save全局挂载 main.jsimport math fro...

  • JavaScript 计算精度问题; 科学计数问题

    本篇文章主要解决JavaScript中的计算精度问题和科学计数显示问题。例如:99969998.99999993 ...

  • 备忘

    1、js中解决数字计算精度问题,math.js bignumber. math.js https://blog.c...

  • iOS 浮点类型精度丢失问题

    苹果提供的解决方案:NSDecimalNumber 针对浮点类型计算精度问题提供的计算类,基于十进制的科学计数法来...

  • decimal.js的简单封装

    js的计算有精度问题,在业务处理中总是会出现莫名其妙的数据,在这里我们使用decimal.js解决计算精度问题。然...

  • js 处理四则运算失去精度问题

    js 处理四则运算失去精度问题 计算精度,特别是浮点数计算。举个栗子 然后我寻求各种解决办法,其中用了lodash...

  • js精度问题

    关于js浮点数计算精度不准确问题的解决办法 今天在计算商品价格的时候再次遇到js浮点数计算出现误差的问题,以前就一...

  • 2018-11-04-1

    java double计算精度问题 double计算防止精度丢失:方案:将double转成bigDecimalSy...

  • Js计算精度问题

    最近在做金融类的开发,页面需要一些计算,在计算过程中发现js页面会存在精度问. 例如: 0.1 + 0.2 /...

  • Javascript计算精度问题

    Javascript是弱类型语言,在进行浮点数计算时会有误差出现(这在很多语言中都是存在的,只是其他语言内部会去规...

网友评论

      本文标题:VUE-解决计算精度问题

      本文链接:https://www.haomeiwen.com/subject/tysetdtx.html