美文网首页
为什么 0.1+0.2 不等于 0.3 ; 14.2+80.9

为什么 0.1+0.2 不等于 0.3 ; 14.2+80.9

作者: lazy_tomato | 来源:发表于2021-10-18 23:30 被阅读0次

    START

    • 番茄又来写点啥了。
    • 最近遇到一个很有趣的bug,在这里记录一下。

    业务场景

    • 有两个金额A,B,我都做了保留两位小数的处理
    • 还有一个金额C,等于金额A的金额B的
    • 突然测试给我讲,番茄,你这金额C没有保留两位小数哦。
    • 查看了相关的bug,得出来的金额C展示的是95.10000000000001

    到这里我第一反应,确实金额C没有做保留两位小数的处理

    但是在我排查代码逻辑的时候,突然想到,明明金额A和金额B我都做了保留两位小数的处理呀。

    随即,在浏览器中打印了一下,发现了一个有趣的事情。

    14.2+80.9 = 95.10000000000001

    486135a7e3036aa7ffb072be437eded.png

    问题分析

    看到浏览器这里打印,14.2+80.9 = 95.10000000000001 。我就想到我们熟知的0.1+0.2 = 0.30000000000000004

    JS红宝书相关说明呢:

    • 浮点数值的精度最高是17位小数,但是在算数计算式其进度远不如整数。

    • 关于浮点数值计算会产生误差的问题,有一点需要明确。这是基于IEEE754数值的浮点计算的通病。

      JS;JAVA;PYTHON 都会出现:0.1+0.2 = 0.30000000000000004

    根本原因是什么呢:

    首先,我们要知道,计算机存储数据呢,是以二进制0/1存储的,所以我们把0.10.2(十进制的)转换为二进制的:

    0.1 => 0.0001 1001 1001 1001…(1001无限循环)
    0.2 => 0.0011 0011 0011 0011…(0011无限循环)

    但是我们计算机的硬件存储的位数是有限制的不可能无限循环下去,一般双精度浮点数总共占用64位,其中最多53位为有效精度数字(包括符号位),所以存储时只能存储:

    0.1=>0.0001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001
    
    0.2=>0.0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011
    

    所以

    0.1+0.2=>

    0.0100 1100 1100 1100 1100 1100 11001 100 1100 1100 1100 1100 1100
    

    转换为十进制就是:0.30000000000000004

    解决方案

    遇到这种情况怎么处理呢。

    1. Math.round() 方法四舍五入或者toFixed() 方法保留指定的位数(对精度要求不高,可用这种方法)

    2. 将小数转为整数再做计算。

      2.1 这里可以配合Math.pow(10, n)放大10的n次方;

      2.2 小数点的位数可以这样获取:

      // num 我们需要计算的数字
      // l 小数点的位数
        try {
          l = num.toString().split('.')[1].length
        } catch (e) {
          l = 0
        }
      

    END

    • 问题还是小问题,但是依旧很有意思,老生常谈。
    • 记录当下,ღ( ´・ᴗ・` )

    相关文章

      网友评论

          本文标题:为什么 0.1+0.2 不等于 0.3 ; 14.2+80.9

          本文链接:https://www.haomeiwen.com/subject/ivyooltx.html