美文网首页
丢失精度引发的感想

丢失精度引发的感想

作者: ChangeWorld | 来源:发表于2016-10-28 23:54 被阅读20次

今天 , 遇到一个问题, 那就是关于一个丢失精度的问题: 这是一个悲伤的故事.

  • 场景一
为了写好一个界面,使用了代码布局适配各种屏幕,利用物理屏幕和当前设备的宽高比例来进行计算,
这也是一种实现手段.
CGFoat rate = KHeight / KWidth ;
 当前使用的是6s,物理屏幕的宽度是375.0个点
当前屏幕高度为: 
 currentScreenHeight = 375 *rate ;
  • 场景二
在详情页面里想要展示一个视频轮播的一个View ,这个view的宽高是按照
16:9的比例计算的 ,具体情况是这样的:

1. 距离两边距离15.0f
2. 高度的计算,按照物理屏幕与比例的关系计算
#error->  height = kwidth *(9/16);❌ 
#true -> height = kwidth *(9/16.0);✅
总的来讲,这个问题,属于代码习惯问题,
要是按照错误的来搞,这个view的高度为0,
所以加到了container里也看不见.所以,
养成一个良好的代码习惯是多么的重要,
至少能够从一定的程度上减少bug. 
  • 场景三
一般涉及到金钱,账目相关或者一些比较精准的数据计算时,我们不得不关注一下丢失精度这一概念:
 iOS里面引进了这样一个类"NSDecimalNumber",是用来专门处理一些精准数据的计算的. 
  因为只在项目中遇到过一次,这里也不进行相关的獒述,下面是我参考的博客,网上也有很多类似的相关用法的介绍

相关文章

  • 丢失精度引发的感想

    今天 , 遇到一个问题, 那就是关于一个丢失精度的问题: 这是一个悲伤的故事. 场景一 场景二 场景三 相关资料 ...

  • 关于 IEEE754考察重点

    考察机器码格式,精度,表示数据范围,丢失的精度后表示的真值,可以表示的不丢失精度的范围。

  • 记一道精度转换面试题

    解释:1.向上转换不会丢失精度(float--->double),向下转才会丢失精度(double--->floa...

  • 精度丢失

    开发中处理处理价格金额问题, 后台经常返回float、double类型, 打印或转成NSString都会有精度丢失...

  • 简单数据类型

    机器码 溢出 精度丢失 内容待续

  • 2018-11-04-1

    java double计算精度问题 double计算防止精度丢失:方案:将double转成bigDecimalSy...

  • 精度丢失问题

    0.1 + 0.2 !== 0.30000000000000004产生的主要原因是 js通过64位的二进制数据存储...

  • 精度丢失问题

    背景 BFF Client 使用的 npm 包 request-promise-native 请求微服务接口返回 ...

  • 关于iOS数据解析小数丢失精度的问题

    /*! @brief 修正浮点型精度丢失 @param str 传入接口取到的数据 @return 修正精度后的数...

  • 小问题整理

    1.iOS11数字精度问题 /*! @brief 修正浮点型精度丢失 @param str 传入接口取到的数据 @...

网友评论

      本文标题:丢失精度引发的感想

      本文链接:https://www.haomeiwen.com/subject/ujneuttx.html