美文网首页
浮点数计算

浮点数计算

作者: dayindayout | 来源:发表于2019-01-31 16:18 被阅读0次

function accAdd(arg1, arg2) {

    var r1, r2, m;

    try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 };

    try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 };

    m = Math.pow(10, Math.max(r1, r2));

    return (arg1 * m + arg2 * m) / m;

}



function accSub(arg1, arg2) {

    var r1,r2,m,n;

    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}

    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}

    m=Math.pow(10,Math.max(r1,r2));

    n=(r1>=r2)?r1:r2;

    return ((arg1*m-arg2*m)/m).toFixed(n);

}



function accMul(arg1, arg2) {

    var m = 0, s1 = arg1.toString(), s2 = arg2.toString();

    try { m += s1.split(".")[1].length } catch (e) { }

    try { m += s2.split(".")[1].length } catch (e) { }

    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)

}



function accDiv(arg1, arg2) {

    var c, d, e = 0,

        f = 0;

    try {

        e = arg1.toString().split(".")[1].length;

    } catch (g) {}

    try {

        f = arg2.toString().split(".")[1].length;

    } catch (g) {}

    return c = Number(arg1.toString().replace(".", "")), d = Number(arg2.toString().replace(".", "")), accMul(c / d, Math.pow(10, f - e));

}

相关文章

  • 点滴笔记(2018年08月24日更新)

    问:浮点数为什么存在精度问题? 计算机中的浮点数对应于数学当中的小数。简单计算下,32位浮点数最多可以表示2^32...

  • 笨办法学Python ex03

    数字和数学计算 输入: 运行: 附加题 浮点数(floating point number) “浮点数”的定义是相...

  • 浮点数计算

    偶尔在一些git代码中看到一些关于浮点数运算的代码,拿过来备用之后可以用下.

  • 浮点数计算

    function accAdd(arg1, arg2) { var r1, r2, m; try { r1...

  • Js中做减法时,出现小数位增加Bug

    这个bug是Js固有的,这是因为在javascript中浮点数的计算是以2进制计算的,浮点数精度不准。可以用下面方...

  • js精度问题

    关于js浮点数计算精度不准确问题的解决办法 今天在计算商品价格的时候再次遇到js浮点数计算出现误差的问题,以前就一...

  • 1.2 浮点型运算

    在计算机中,浮点数虽然表示的范围大,但是,浮点数有个非常重要的特点,就是浮点数常常无法精确表示。浮点数在内存的表示...

  • 第二天 - 关于浮点数的几个有趣问题

    由于计算机对于浮点数(小数)的保存方式决定了计算机在进行浮点数运算的时候避免不了存在一些问题。代码如下:

  • Float 自动转为科学技数法解决方案

    float 是计算机存储浮点数机制导致的.

  • 计算分数的浮点数值(2.1.5)

    计算分数的浮点数值 【题目描述】两个整数a和b分别作为分子和分母,既分数ab,求它的浮点数值(双精度浮点数,保留小...

网友评论

      本文标题:浮点数计算

      本文链接:https://www.haomeiwen.com/subject/euxlsqtx.html