美文网首页
浮点数在金额计算中的使用总结

浮点数在金额计算中的使用总结

作者: 漫天秋风 | 来源:发表于2018-02-23 11:34 被阅读0次

double 和 float 类型的变量不适合用作金额计算是java语言使用中的基本知识,但在实际应用中此基本常识经常被程序员忽视,想当然的用在了实际的金额计算场景中,造成难以察觉的错误。在此对金额计算的使用方法做个总结,以规范后续使用。

1. double和float 的不准确

《effective Java》中指出,float和double类型主要是为科学计算和工程计算而设计的,不应该被用于需要精确结果的场合,尤其不适合于货币计算,见如下代码:

public class DoubleHandle {
    static double a = 2.0;
    static double b = 1.1;

    public static void main(String[] args){
        System.out.print("2.0 减 1.1 的double类型计算值为:");
        System.out.println((a - b));
    }
}

输出结果为

2.0 减 1.1 的double类型计算值为:0.8999999999999999

明显可见结果是不正确的。原因为在二进制系统中无法精确的表示10的负n次幂,如同十进制无法精确的表示1/3一样。为了能够解决这个问题,java提供了BigDecimal类,那么只要使用了BigDecimal类结果就一定正确吗?

2. BigDecimal类的错误使用

根据上文结论,容易犯的错误如下图代码:

public class DoubleHandle {

    static BigDecimal aBig = new BigDecimal(2.0);
    static BigDecimal bBig = new BigDecimal(1.1);

    public static void main(String[] args){
            System.out.println("2.0 减 1.1 的BigDecimal类型计算值为:"
                + String.valueOf(aBig.subtract(bBig)));
    }
}

运行结果为:

2.0 减 1.1 的BigDecimal类型计算值为:
0.899999999999999911182158029987476766109466552734375

结果仍然是错误的。原因为实例化BigDecimal类时,使用的是double类型的常量,那么仍然无法避免double类型精度丢失的问题,正确的使用方式为用String类型来初始化BigDecimal类。

3. BigDecimal的正确使用

使用下面的代码运行:

public class DoubleHandle {
    static BigDecimal aStrBig = new BigDecimal("2.0");
    static BigDecimal bStrBig = new BigDecimal("1.1");

    public static void main(String[] args){       
        System.out.println("2.0 减 1.1 的BigDecimal类型计算值为:"
                + String.valueOf(aStrBig.subtract(bStrBig)));
    }
}

运行结果为:

2.0 减 1.1 的BigDecimal类型计算值为:0.9

可见已为正确的结果。

4. BigDecimal的使用注意

BigDecimal没有定义 +或 * 等操作符的重载,因此加法等操作要用方法来实现。需要注意的是BigDecimal在执行了运行操作后,结果值并不会覆盖回原操作数,而是生成了新的结果值。见如下代码:

public class DoubleHandle {   
    static BigDecimal aStrBig = new BigDecimal("2.0");
    static BigDecimal bStrBig = new BigDecimal("1.1");
    public static void main(String[] args){

            System.out.println("2.0 减 1.1 的BigDecimal类型计算值为:"
                + String.valueOf(aStrBig.subtract(bStrBig)));

        System.out.println("aStrBig值为:" + String.valueOf(aStrBig));
    }

}

运行结果为:

2.0 减 1.1 的BigDecimal类型计算值为:0.9
aStrBig值为:2.0

可见计算结果0.9并没有保存到aStrBig中去,仅仅输出打印后就抛弃了。原因为BigDecimal为不可变类,我们不能修改现有实例的值,对这些类型的操作将返回新的实例,因此运算生成的结果值需要定义新的变量来保存。

相关文章

  • 浮点数在金额计算中的使用总结

    double 和 float 类型的变量不适合用作金额计算是java语言使用中的基本知识,但在实际应用中此基本常识...

  • iOS-Float大小比较

    在价格,金额的计算中,如果直接使用<, >, =去计算金额会导致由精度导致的不准确问题。好的做法是:

  • 基于微信随机红包算法

    微信随机红包算法, 前提为知道红包的数量, 红包总金额, (红包最小金额, 0.01)为防止浮点数计算出现问题,此...

  • BigDecimal使用不当,造成P0事故!

    背景 我们在使用金额计算或者展示金额的时候经常会使用 BigDecimal,也是涉及金额时非常推荐的一个类型。 B...

  • [java 基础]BigDecimal

    场景说明 在进行金额表示、金额计算时,不能使用double,float,要使用对精度支持更好的BigDecimal...

  • PPMT财务函数如何使用?

    在处理等额贷款业务时,用户经常需要计算贷款金额以及本金、利息等。在Excel中,使用PMT函数可以计算每期应偿还...

  • [js]数值的精度

    基础知识 js内部所有数字在计算机内存中的表示都是64位双精度浮点数 双精度浮点数表示法的副作用 使用二进制浮点数...

  • JAVA浮点类型数据计算

    摘要 Java浮点数据类型在内存中存储会出现精度丢失的情况,因此涉及浮点数据类型的计算需使用BigDecimal类...

  • 浮点数有精确度问题

    当计算中包含小数时,很多网友建议不要使用浮点数(搜索IEEE754),浮点数有精度问题。Java中有专门的工业级高...

  • Python基础

    数据类型和变量 整数Python可以处理任意大小整数,在计算机中,有时会使用十六进制表示。 浮点数浮点数的小数点位...

网友评论

      本文标题:浮点数在金额计算中的使用总结

      本文链接:https://www.haomeiwen.com/subject/tuitxftx.html