美文网首页
iOS 关于小数精确计算(NSDecimalNumber)

iOS 关于小数精确计算(NSDecimalNumber)

作者: 玉思盈蝶 | 来源:发表于2020-06-19 23:12 被阅读0次

今天看有人问到这个,我试了一下,还是觉得有问题,代码如下:

let str1 = String(format: "%.2f", Double(0.100000))
let str2 = String(format: "%.2f", Double(0.99999999))
let decimalNumber1 = NSDecimalNumber(string: str1)
let decimalNumber2 = NSDecimalNumber(string: str2)
let result = decimalNumber1.multiplying(by: decimalNumber2)
print(result)

上面代码result输出啥?
0.1
str1 = “0.10”
str2 = “1.00”

PS:我们项目里也有这个问题,暂目前我们的处理是两位小数处理的,可能还是有问题吧。

参考链接:

https://www.jianshu.com/p/c6360cb13d0e

还是有精度的丢失。。。。。。话说你们都怎么处理这个精度问题?求告知~~~

相关文章

网友评论

      本文标题:iOS 关于小数精确计算(NSDecimalNumber)

      本文链接:https://www.haomeiwen.com/subject/hfrixktx.html