美文网首页
float转int的时候精度丢失问题-亲测有效

float转int的时候精度丢失问题-亲测有效

作者: 端木安玉 | 来源:发表于2021-06-18 14:09 被阅读0次

问题 float转int的时候精度丢失

今天遇到一个问题,$19.99 单位(从元转换为分比例是1:100),所以乘以100,期望是1999,但是订单信息描述中将数据转换为int时,数值变为了1998

  $payPrice = 19.99;
  $ret = intval($payPrice * 100);
  return $ret;

结果:1998

先说解决办法

先使用strval()转为字符串,再使用intval(),官方文档推荐的方案

  $payPrice = 19.99;
  $ret = intval( strval($payPrice * 100) );
  return $ret;

结果:1999

解析原因:

要搞明白这个原因, 首先我们要知道浮点数的表示(IEEE 754):
浮点数, 以64位的长度(双精度)为例, 会采用1位符号位(E), 11指数位(Q), 52位尾数(M)表示(一共64位).
符号位:最高位表示数据的正负,0表示正数,1表示负数。
指数位:表示数据以2为底的幂,指数采用偏移码表示
尾数:表示数据小数点后的有效数字.
这里的关键点就在于, 小数在二进制的表示, 关于小数如何用二进制表示, 大家可以百度一下, 我这里就不再赘述, 我们关键的要了解, 0.58 对于二进制表示来说, 是无限长的值(下面的数字省掉了隐含的1)..


1.  0.58的二进制表示基本上(52位)是: 0010100011110101110000101000111101011100001010001111
2.  0.57的二进制表示基本上(52位)是: 0010001111010111000010100011110101110000101000111101

而两者的二进制, 如果只是通过这52位计算的话,分别是:

1.  0.58 -> 0.57999999999999996
2.  0.57 -> 0.56999999999999995

至于0.58 * 100的具体浮点数乘法, 我们不考虑那么细, 有兴趣的可以看(Floating point),
我们就模糊的以心算来看... 0.58 * 100 = 57.999999999
那你intval一下, 自然就是57了....

注 有兴趣的朋友可以看下

引用鸟哥的文章:https://www.laruence.com/2013/03/26/2884.html

浮点数(floating-point number)二进制存储格式:https://blog.csdn.net/sinat_18811413/article/details/104189061

相关文章

网友评论

      本文标题:float转int的时候精度丢失问题-亲测有效

      本文链接:https://www.haomeiwen.com/subject/tnykyltx.html