美文网首页
iOS 关于小数精确计算(NSDecimalNumber)

iOS 关于小数精确计算(NSDecimalNumber)

作者: 玉思盈蝶 | 来源:发表于2020-06-19 23:12 被阅读0次

    今天看有人问到这个,我试了一下,还是觉得有问题,代码如下:

    let str1 = String(format: "%.2f", Double(0.100000))
    let str2 = String(format: "%.2f", Double(0.99999999))
    let decimalNumber1 = NSDecimalNumber(string: str1)
    let decimalNumber2 = NSDecimalNumber(string: str2)
    let result = decimalNumber1.multiplying(by: decimalNumber2)
    print(result)
    

    上面代码result输出啥?
    0.1
    str1 = “0.10”
    str2 = “1.00”

    PS:我们项目里也有这个问题,暂目前我们的处理是两位小数处理的,可能还是有问题吧。

    参考链接:

    https://www.jianshu.com/p/c6360cb13d0e

    还是有精度的丢失。。。。。。话说你们都怎么处理这个精度问题?求告知~~~

    相关文章

      网友评论

          本文标题:iOS 关于小数精确计算(NSDecimalNumber)

          本文链接:https://www.haomeiwen.com/subject/hfrixktx.html