浮点数间运算存在不确定尾数,不是bug
print(0.1 + 0.3) # 0.4
print(0.1 + 0.2) # 0.30000000000000004
print(0.1 + 0.2 == 0.3) # False
小数部分十进制不是都可以精确转换成二进制
round函数
round(x,d) 对x四舍五入,d是小数截取位数
不确定尾数一般发生在10^-16左右,round()函数非常有效
浮点数间运算存在不确定尾数,不是bug
print(0.1 + 0.3) # 0.4
print(0.1 + 0.2) # 0.30000000000000004
print(0.1 + 0.2 == 0.3) # False
小数部分十进制不是都可以精确转换成二进制
round函数
round(x,d) 对x四舍五入,d是小数截取位数
不确定尾数一般发生在10^-16左右,round()函数非常有效
本文标题:不确定尾数问题
本文链接:https://www.haomeiwen.com/subject/lyzwcftx.html
网友评论