美文网首页
浮点误差

浮点误差

作者: 真是个非常帅气的昵称呢 | 来源:发表于2021-01-12 17:11 被阅读0次
    image.png
    
    function strip(num, precision = 12) {
      return +parseFloat(num.toPrecision(precision));
    }
    
    image.png
    /**
     * 精确加法
     */
    function add(num1, num2) {
      const num1Digits = (num1.toString().split('.')[1] || '').length;
      const num2Digits = (num2.toString().split('.')[1] || '').length;
      const baseNum = Math.pow(10, Math.max(num1Digits, num2Digits));
      return (num1 * baseNum + num2 * baseNum) / baseNum;
    }
    

    相关文章

      网友评论

          本文标题:浮点误差

          本文链接:https://www.haomeiwen.com/subject/xhjeaktx.html