美文网首页
js计算丢失精度

js计算丢失精度

作者: linemark | 来源:发表于2019-08-14 14:12 被阅读0次
//加法函数
function accAdd(arg1, arg2) {
    var r1, r2, m;
    try {
        r1 = arg1.toString().split(".")[1].length;
    } catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    } catch (e) {
        r2 = 0;
    }
    m = Math.pow(10, Math.max(r1, r2));
    return (arg1 * m + arg2 * m) / m;
}
//给Number类型增加一个add方法,,使用时直接用 .add 即可完成计算。 
Number.prototype.add = function(arg) {
    return accAdd(arg, this);
};


function Subtr(arg1, arg2) {

    var r1, r2, m, n;

    try {

        r1 = arg1.toString().split(".")[1].length;

    } catch (e) {

        r1 = 0;

    }

    try {

        r2 = arg2.toString().split(".")[1].length;

    } catch (e) {

        r2 = 0;

    }

    m = Math.pow(10, Math.max(r1, r2));

    //last modify by deeka

    //动态控制精度长度

    n = (r1 >= r2) ? r1 : r2;

    return ((arg1 * m - arg2 * m) / m).toFixed(n);

}

//给Number类型增加一个add方法,,使用时直接用 .sub 即可完成计算。

Number.prototype.sub = function(arg) {

    return Subtr(this, arg);

};

//乘法函数
function accMul(arg1, arg2) {
    var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
    try {
        m += s1.split(".")[1].length;
    } catch (e) {
    }
    try {
        m += s2.split(".")[1].length;
    } catch (e) {
    }
    return Number(s1.replace(".", "")) * Number(s2.replace(".", ""))
            / Math.pow(10, m);
}
//给Number类型增加一个mul方法,使用时直接用 .mul 即可完成计算。 
Number.prototype.mul = function(arg) {
    return accMul(arg, this);
};

//除法函数
function accDiv(arg1, arg2) {
    var t1 = 0, t2 = 0, r1, r2;
    try {
        t1 = arg1.toString().split(".")[1].length;
    } catch (e) {
    }
    try {
        t2 = arg2.toString().split(".")[1].length;
    } catch (e) {
    }
    with (Math) {
        r1 = Number(arg1.toString().replace(".", ""));
        r2 = Number(arg2.toString().replace(".", ""));
        return (r1 / r2) * pow(10, t2 - t1);
    }
}
//给Number类型增加一个div方法,,使用时直接用 .div 即可完成计算。 
Number.prototype.div = function(arg) {
    return accDiv(this, arg);
};

版权声明:本文为CSDN博主「Black毒药」的原创文章,遵循CC 4.0 by-sa版权协议,转载请附上原文出处链接及本声明。

原文链接:https://blog.csdn.net/runner1920/article/details/79895670

相关文章

  • js计算丢失精度

    版权声明:本文为CSDN博主「Black毒药」的原创文章,遵循CC 4.0 by-sa版权协议,转载请附上原文出处...

  • 2018-11-04-1

    java double计算精度问题 double计算防止精度丢失:方案:将double转成bigDecimalSy...

  • 工作中遇到的坑

    js错误: js比较错误 Java错误: 使用BigDecimal进行精度操作时double转int异常或丢失精度...

  • JAVA/JS 精度丢失问题

    在JAVA和JS浮点型数值直接计算中,经常会出现一些精度丢失的情况。 JAVA和JS采用的是IEEE 754规范,...

  • JS的计算时精度丢失问题

    精度丢失主要有是哪方面 1.小数计算 如:0.1+0.2 !== 0.3;0.1*0.2 !== 0.03; 2....

  • 浮点数计算中的精度丢失

    1 js浮点数运算精度丢失 如果你用过js计算浮点数你肯定会遇到过下面这种情况:(我的小学白读了吗==。) (其...

  • 关于BigDecimal

    使用double和float计算时会造成精度丢失的问题 要进行计算要用BigDecimalBigdecimal a...

  • js精度计算

    引发问题 使用 Big.jsBig文档 加 减 乘 除 取余

  • js精度计算

    在新公司的第一个项目是区块链相关的管理后台和交易所,其中就涉及了很多的计算问题。而JavaScript因为存在计算...

  • 前端解决long类型丢失

    main.js中加入// 解决long类型数字长度超过16位精度丢失

网友评论

      本文标题:js计算丢失精度

      本文链接:https://www.haomeiwen.com/subject/djugjctx.html