美文网首页
js 浮点型精度计算

js 浮点型精度计算

作者: 路上灵魂的自由者 | 来源:发表于2019-04-17 09:57 被阅读0次

//加法函数,用来得到精确的加法结果

//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。

//调用:accAdd(arg1,arg2)

//返回值:arg1加上arg2的精确结果

function accAdd(arg1,arg2){

var r1,r2,m;

try{

r1=arg1.toString().split(".")[1].length

}catch(e){

r1=0

}

try{

r2=arg2.toString().split(".")[1].length

}catch(e){

r2=0

}

m=Math.pow(10,Math.max(r1,r2))

return (arg1*m+arg2*m)/m

}

//给Number类型增加一个add方法,调用起来更加方便。

Number.prototype.add = function (arg){

return accAdd(arg,this);

}

//加法函数,用来得到精确的加法结果

//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。

//调用:accAdd(arg1,arg2)

//返回值:arg1加上arg2的精确结果

function accSub(arg1,arg2){

    var r1,r2,m,n;

    try{

    r1=arg1.toString().split(".")[1].length

    }catch(e){

    r1=0

    }

    try{

    r2=arg2.toString().split(".")[1].length

    }catch(e){

    r2=0

    }

    m=Math.pow(10,Math.max(r1,r2));

    //last modify by deeka

    //动态控制精度长度

    n=(r1>=r2)?r1:r2;

    return ((arg1*m-arg2*m)/m).toFixed(n);

}

//除法函数,用来得到精确的除法结果

//说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。

//调用:accDiv(arg1,arg2)

//返回值:arg1除以arg2的精确结果

function accDiv(arg1,arg2){

var t1=0,t2=0,r1,r2;

try{

t1=arg1.toString().split(".")[1].length

}catch(e){

}

try{

t2=arg2.toString().split(".")[1].length

}catch(e){

}

with(Math){

r1=Number(arg1.toString().replace(".",""))

r2=Number(arg2.toString().replace(".",""))

return (r1/r2)*pow(10,t2-t1);

}

}

//给Number类型增加一个div方法,调用起来更加方便。

Number.prototype.div = function (arg){

return accDiv(this, arg);

}

//乘法函数,用来得到精确的乘法结果

//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。

//调用:accMul(arg1,arg2)

//返回值:arg1乘以arg2的精确结果

function accMul(arg1,arg2){

var m=0,s1=arg1.toString(),s2=arg2.toString();

try{

m+=s1.split(".")[1].length

}catch(e){

}

try{

m+=s2.split(".")[1].length

}catch(e){

}

return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)

}

//给Number类型增加一个mul方法,调用起来更加方便。

Number.prototype.mul = function (arg){

return accMul(arg, this);

}

相关文章

  • js 浮点型精度计算

    //加法函数,用来得到精确的加法结果 //说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比...

  • js浮点型精度

    相信大家都碰到过这样一个问题,在js中为什么 0.1 + 0.2 == 0.3 结果是false,答案显而易见0....

  • JAVA/JS 精度丢失问题

    在JAVA和JS浮点型数值直接计算中,经常会出现一些精度丢失的情况。 JAVA和JS采用的是IEEE 754规范,...

  • 关于浮点型精度问题的一些理解

    这是一篇关于浮点型精度的文章,大致会从三个大的问题入手,去解析精度问题。 字符串转浮点型出现精度丢失 浮点型和浮点...

  • js精度问题

    关于js浮点数计算精度不准确问题的解决办法 今天在计算商品价格的时候再次遇到js浮点数计算出现误差的问题,以前就一...

  • 关于OC中的精度计算NSDecimalNumber

    //NSDecimalNumber是NSNumber的子类,是苹果针对浮点型计算时存在精度计算误差的问题而提供的一...

  • 雷潮教育第一期班C#课程阶段总结(1)

    1.基本数据类型 数值类型整型 int单精度浮点型 float双精度浮点型 double更高精度数值(财务) de...

  • Intel x87 FPU的使用基础

    Intel x87 FPU专门用于执行标量浮点计算,可以对单精度浮点(32位)、双精度浮点(64位)以及扩展双精度...

  • 浮点数计算中的精度丢失

    1 js浮点数运算精度丢失 如果你用过js计算浮点数你肯定会遇到过下面这种情况:(我的小学白读了吗==。) (其...

  • Js中做减法时,出现小数位增加Bug

    这个bug是Js固有的,这是因为在javascript中浮点数的计算是以2进制计算的,浮点数精度不准。可以用下面方...

网友评论

      本文标题:js 浮点型精度计算

      本文链接:https://www.haomeiwen.com/subject/kblgwqtx.html