美文网首页
Swift关于Float、Double的精度问题

Swift关于Float、Double的精度问题

作者: WMSmile | 来源:发表于2020-09-11 15:20 被阅读0次

在计算1.0-0.9的时候打印并不是0.1

Float

let a = Float.init(1.0) - Float.init(0.9)
print(a)
let b = Float.init(0.9) - Float.init(0.8)
print(b)
if(a == b){
    print("true")
}
else{
   print("false")
}

打印:

0.100000024
0.099999964
false

Double

注:1.0 带小数点再不写是哪种类型的情况下默认是Double

print("\(1.0 - 0.9)");

print("\(0.9 - 0.8)");
if((1.0 - 0.9) == (0.9 - 0.8)){
    print("true")
}
else{
    print("false")
}

或者

let c = Double.init(1.0) - Double.init(0.9)
print(c)
let d = Double.init(0.9) - Double.init(0.8)
print(d)
if(c == d){
    print("true")
}
else{
    print("false")
}

打印是一致

0.09999999999999998
0.09999999999999998
true

相关文章

网友评论

      本文标题:Swift关于Float、Double的精度问题

      本文链接:https://www.haomeiwen.com/subject/njqbektx.html