原文链接
前几天有个同学在问，float数运算的时候精度出现问题，比如
public class Main {
public static void main(String[] args) {
int a = 3;
float b = 0.9f;
System.out.print(a * b);
}
}
按道理来说结果应该是2.7,但是运行的结果却不是。
-w218
定点数 和 浮点数
记得老师上课的时候讲的，“你们记住，定点数就是整数，浮点数就是下小数”，当时觉得好像没有问题。
在计算机中，只有定点数和浮点数，没有整数和小数，浮点的“点”是小数点。 把小数点固定，通常固定在最右面，就是定点数。 把小数点浮动，就是浮点数。
进制转换
计算机存储任何数字都是基于二进制，那么浮点数怎么存储成二进制？定点、浮点，“点”是什么意思？
这个在 IEEE754 浮点数标准里面定义的,Java遵循了这个标准。 过程如下：
-
第一步：转换成二进制
十进制数字转化成二进制表示形式，通过将整数部分除2取余、小数部分乘2取整来完成转换，所以这里有可能丢失精度0.12 =>0.00011110101110000101000111101... -
第二步：用二进制科学计算法表示
将小数点移动到第一个1的右边
0.00011110101110000101000111101... =>
1.1110101110000101000111101... * 2 ^ -4
- 第三步：表示成 IEEE 754 形式
这里也可能会丢失精度
1 8位 23位 存不下了
0 01111011 11101011100001010001111 (01...)
+ 2的-4次幂 除去整数部分1之后剩余的尾数 0舍1入后忽略这部分，精度就这样没了
所以最后我们需要转换成十进制的时候，丢失部分的进度就没办法回来了
哪些数能精确表示？
举个例子：0.1 在计算机中可以精确表示吗？
我们试一下，试着乘2取整把他转换成二进制。
(1) 0.1 x 2 = 0.2 取整数位 0 得 0.0
(2) 0.2 x 2 = 0.4 取整数位 0 得 0.00
(3) 0.4 x 2 = 0.8 取整数位 0 得 0.000
(4) 0.8 x 2 = 1.6 取整数位 1 得 0.0001
(5) 0.6 x 2 = 0.2 取整数位 1 得 0.00011
(6) 0.2 x 2 = 0.4 取整数位 0 得 0.000110
(7) 0.4 x 2 = 0.8 取整数位 0 得 0.0001100
(8) 0.8 x 2 = 1.6 取整数位 1 得 0.00011001
(9) 0.6 x 2 = 1.2 取整数位 1 得 0.000110011
(10) 0.2 x 2 = 0.4 取整数位 1 得 0.0001100110
(n)...
啊哈，返现了没有，居然在循环~，所以我们没办法求出0.1用二进制表示的准确值，所以在第一步就已经丢失了精度
其实在0.1 ~ 0.9 中，只有0.5能用二进制精确表示：
(1) 0.5 x 2 = 1.0 取整数位 1 得 0.1
(2) 0.0 x 2 = 0.0 取整数位 0 得 0.10
哈哈，后面继续下去就都是0了，所以0.5的精度并没有发生丢失。
所以我们由此可以推出一个条件
如果一个十进制数的最后一位是5,那么它可以用二进制精确表示。
解决方案
一种思路
针对小数精度不够的问题（例如 0.1），软件可以人为的在数据最后一位补 5， 也就是 0.15，这样牺牲一位，但是可以保证数据精度，还原再把那个尾巴 5 去掉。
另一种办法
讲道理，上一种方法我们实际开发的时候采用是不现实的，float 用 4 个字节存储，double 用 8 个字节存储，精度肯定是有限的，但是一般的计算都足够了。
需要高精度计算的时候，我们可以采用BigDecimal类来计算。但是速度会比float和double慢很多~。
网友评论