美文网首页
Swift Double精度丢失的问题

Swift Double精度丢失的问题

作者: CYC666 | 来源:发表于2023-03-22 18:22 被阅读0次

// %.10f 情况下,2376770.3800000000 会变成 2376770.3799999999
let text2 = String.init(format: "%.10f", text1.doubleValue)


        let value1 = 0.1 + 0.2                                      // 应该等于0.3
        
        let text1 = String(value1)
        print(text1)                                                        // 打印值:0.30000000000000004
        
        let text2 = String.init(format: "%.10f", value1)            // 打印值:0.3000000000
        print(text2)
        
        let text3 = String.init(format: "%.17f", value1)            // 打印值:0.30000000000000004
        print(text3)
        
        let formatter = NumberFormatter()
        formatter.numberStyle = .decimal
        formatter.maximumFractionDigits = 10
        let text4 = formatter.string(for: value1)
        print(text4!)                                               // 打印值:0.3

相关文章

  • 2018-11-04-1

    java double计算精度问题 double计算防止精度丢失:方案:将double转成bigDecimalSy...

  • 记一道精度转换面试题

    解释:1.向上转换不会丢失精度(float--->double),向下转才会丢失精度(double--->floa...

  • Android面试知识点总结(八)

    double相加会出现什么问题? double 进行运算时,经常出现精度丢失的问题。比如: 得到结果为43.190...

  • js 小数的精度损失

    参考如何理解double精度丢失问题?比如1.1+0.1=1.2000000000000002,在java C++...

  • 关于BigDecimal

    使用double和float计算时会造成精度丢失的问题 要进行计算要用BigDecimalBigdecimal a...

  • 处理iOS double精度丢失问题

    有些时候,后台返回类型为double类型的数值,如(double)558.93,那前端json解析后,会有精度丢失...

  • java-基础

    为啥有时会出现4.0-3.6=0.40000001这种现象? float,double等精度丢失问题 - 铅笔 -...

  • iOS恶心的Double精度

    最近发现在iOS中将String类型转化为Double类型的时候会有莫名奇妙的精度丢失问题,甚至在Double与D...

  • swift 丢失精度的问题

    https://zhuanlan.zhihu.com/p/340822555[https://zhuanlan.z...

  • 精度丢失

    开发中处理处理价格金额问题, 后台经常返回float、double类型, 打印或转成NSString都会有精度丢失...

网友评论

      本文标题:Swift Double精度丢失的问题

      本文链接:https://www.haomeiwen.com/subject/ktrbrdtx.html