什么是不确定尾数

我们都知道在计算机中数据由二进制表示，而浮点数则是小数的一种二进制表示方法。

由于浮点数存在精度限制，在Python中使用浮点数做运算时就可能会产生不确定尾数。

不确定尾数

比如0.1 + 0.2的运算结果应该是0.3，但是在Python中输出的却是0.30000000000000004。小数点后十七位出现了不确定尾数，这与浮点数的精度是相符合的。

不确定尾数的影响

不确定尾数是一种比较常见的现象，在编写程序时要注意避免，否则容易产生不易察觉的bug。

比如下面这段简单的程序，它判断用户的计算结果是否正确：

x = 0.1
y = 0.2
z = input(str(x) + '+' + str(y) + '=')
if x + y == eval(z):
  print('Correct Answer')
else:
  print('Wrong Answer')

如果用户输入了正确的答案0.3，程序本来应该输出“Correct Answer”，然而由于不确定尾数的存在，程序依然输出“Wrong Answer”。

实验结果：

判断出错

如何避免受不确定尾数的影响

既然知道了不确定尾数会带来不可预料的bug，我们在编写程序时就要留意避免这种局面，一种常用的方法是使用round()函数只保留运算结果的前几位小数，这样就自然去掉了小数点后十多位的不确定尾数。

刚才那段代码可以修改为如下版本：

x = 0.1
y = 0.2
z = input(str(x) + '+' + str(y) + '=')
if round(x + y, 6) == eval(z):
  print('Correct Answer')
else:
  print('Wrong Answer')

这里用round(x + y, 6)来保留到小数点后六位。实验结果：

判断正常