美文网首页
关于高精度数据精度丢失

关于高精度数据精度丢失

作者: ZJ_偶尔上路 | 来源:发表于2018-01-15 13:15 被阅读0次
double money = 9.04;
    
    NSNumber *moneyNum = [NSNumber numberWithDouble:money];
    
    NSLog(@"moneyNum:%@",moneyNum); //此时输出9.039999999999999;
    
      //使用NSDecimalNumber
    
    moneyNum = [NSDecimalNumber decimalNumberWithString:[NSString stringWithFormat:@"%f",money]];
    
    NSLog(@"NSDecimalNumber:%@",moneyNum);  //此时输出9.04

使用系统提供的NSDecimalNumber来处理,可以避免精度丢失。

相关文章

  • 关于高精度数据精度丢失

    使用系统提供的NSDecimalNumber来处理,可以避免精度丢失。

  • 高精度(加法&乘法&减法)

    高精度加法: 高精度乘法: 高精度减法:

  • 各种数值类型之间的相互转换

    这里需要特别留意的是,高精度数据转换为低精度数据之前,必须确保高精度数据的值的范围已经在目标精度的范围内,否则在运...

  • 关于高精度地图定义的探讨

    高精度地图是自动驾驶/无人驾驶的重要组成,那究竟什么是高精度地图? 网上找了两个关于高精度地图的定义,如下: 定义...

  • 高精度数(大整数)加法

    高精度数的加法 什么是高精度数? 高精度数是指一种数据范围超过long long 的数。 题目描述 求两个不超过2...

  • ACM-1001

    高精度大数据计算,这道题很拟真,数据问题做了半天。

  • PHP算术及精度计算

    一、高精度算术运算符 bcadd 将两个高精度数字相加bccomp 比较两个高精度数字,返...

  • 几个高精度模板

    模板来自洛谷及Acwing:Acwing洛谷 后续增加注释以及相关代码改进 高精度加法 高精度减法 高精度乘法 高...

  • .net中的类型转换

    1、预定义 1.1 数字之间 显式:高精度 -> 低精度(概况描述,不准确) 隐式:低精度 -> 高精度(概况描述...

  • php高精度计算

    bcadd — 将两个高精度数字相加 bcdiv — 将两个高精度数字相除 bcmod — 求高精度数字余数 bc...

网友评论

      本文标题:关于高精度数据精度丢失

      本文链接:https://www.haomeiwen.com/subject/zgxqoxtx.html