美文网首页
NSNumber数据精度问题

NSNumber数据精度问题

作者: 司空123 | 来源:发表于2020-04-29 18:27 被阅读0次

'''

NSNumber *number =  [NSNumber numberWithDouble:9.20];

NSString *numString1 = [NSString stringWithFormat:@"%@",number];
NSLog(@"方式1 ******  %@",numString1);


NSString *numString2 = [number description];
NSLog(@"方式2 ******  %@",numString2);

NSString *numString3 = [NSString stringWithFormat:@"%f",number.doubleValue];
NSLog(@"方式3 ******  %@",numString3);

NSNumberFormatter *numberFormat = [[NSNumberFormatter alloc] init];
NSString *numString4 = [numberFormat stringFromNumber:number];
NSLog(@"方式4 ******  %@",numString4);


NSNumberFormatter *numberFormat3 = [[NSNumberFormatter alloc] init];
numberFormat3.numberStyle = NSNumberFormatterDecimalStyle;
NSString *numString5 = [numberFormat3 stringFromNumber:number];
NSLog(@"方式5 ******  %@",numString5);


NSDecimalNumber *decNumber = [NSDecimalNumber decimalNumberWithString:number.stringValue];
NSString * numString6 = [decNumber stringValue];
NSLog(@"方式6 ******  %@",numString6);

NSNumberFormatter *numberFormat7 = [[NSNumberFormatter alloc] init];
[numberFormat7 setPositiveFormat:@"########.########"];
NSString *numString7 = [numberFormat7 stringFromNumber:number];
NSLog(@"方式7 ******  %@",numString7);

'''

看一下结果

'''

2020-04-29 18:25:17.588119+0800 金融货币[77778:9065081] 方式1 ****** 9.199999999999999
2020-04-29 18:25:17.588330+0800 金融货币[77778:9065081] 方式2 ****** 9.199999999999999
2020-04-29 18:25:17.588459+0800 金融货币[77778:9065081] 方式3 ****** 9.200000
2020-04-29 18:25:17.589121+0800 金融货币[77778:9065081] 方式4 ****** 9
2020-04-29 18:25:17.589469+0800 金融货币[77778:9065081] 方式5 ****** 9.2
2020-04-29 18:25:17.589686+0800 金融货币[77778:9065081] 方式6 ****** 9.199999999999999
2020-04-29 18:25:17.590102+0800 金融货币[77778:9065081] 方式7 ****** 9.2
'''

相关文章

  • NSNumber数据精度问题

    ''' ''' 看一下结果 ''' 2020-04-29 18:25:17.588119+0800 金融货币[77...

  • NSString转NSNumber数据精度问题

    产品的需求是这样的:1.小数点后有数据最多保留2位;2.小数点后只显示到最后一位不为0的那位; 然后解析数据。。哒...

  • NSDecimalNumber基本使用

    作用 NSDecimalNumber继承自NSNumber,用于对浮点型数据的精度计算 加减乘除以及乘方 数值处理

  • 关于OC中的精度计算NSDecimalNumber

    //NSDecimalNumber是NSNumber的子类,是苹果针对浮点型计算时存在精度计算误差的问题而提供的一...

  • NSNumber 转NSString精度丢失的问题

    问题描述: 在iOS开发中:涉及价格金额处理,后台有时会返回Number类型的数据,打印或者经过Json转Mode...

  • NSDecimalNumber 介绍

    NSDecimalNumber是NSNumber的不可变子类。苹果针对浮点型计算时存在精度计算误差的问题而提供的一...

  • 2019-08-14

    NSDecimalNumber是NSNumber的不可变子类。苹果针对浮点型计算时存在精度计算误差的问题而提供的一...

  • JS 数据精度以及数字格式化

    在做一些电商、财务业务的时候常常会遇见JS的数据精度问题以及数字格式化问题 数据精度问题包括两个方面: 大整数精度...

  • ruoyi框架使用总结(一)

    1. 前后端返回longint数据精度缺失? 处理springboot 前后端精度问题?数据转换,长整型和时间格式...

  • mybatis 批量插入sqlserver BigDecimal

    现象:1:批量插入数据时,如果插入的数据精度不统一,最终入库的数据精度统一按最低的精度入库;2:单条插入无此问题;...

网友评论

      本文标题:NSNumber数据精度问题

      本文链接:https://www.haomeiwen.com/subject/mmvnwhtx.html