美文网首页
js 双精度浮点数

js 双精度浮点数

作者: good__day | 来源:发表于2019-06-05 01:09 被阅读0次

一、怎样将一个数据转成浮点数  https://www.zhihu.com/question/21711083

二、js 的 Number

在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此。

三、造成哪些问题?

1、小数计算精度丢失,比如 0.1+0.2 不等于 0.3

2、整数最大范围

整数是按最大54位来算最大(253 - 1,Number.MAX_SAFE_INTEGER,9007199254740991) 和最小(-(253 - 1),Number.MIN_SAFE_INTEGER,-9007199254740991) 安全整数范围的。所以只要超过这个范围,就会存在被舍去的精度问题。

四、解决办法

开源的库、bigInt、

0.1+0.2-0.3     // 5.551115123125783e-17

5.551115123125783e-17.toFixed(20)      //   '0.00000000000000005551'

5.551115123125783e-17<Number.EPSILON*Math.pow(2,2)    // true

重新整理

https://zhuanlan.zhihu.com/p/73699947

回顾一个基础问题,js 中的精度丢失问题。

一、在 js 中只有双精度浮点数来存储的Number,数据存储会有三个步骤:1、十进制转二进制 2、二进制转科学技术法 3、按 IEEE754 标准存储。 

二、双精度浮点一共有 64位,64位比特又可分为三个部分:

符号位S:第 1 位是正负数符号位(sign),0代表正数,1代表负数

指数位E:中间的 11 位存储指数(exponent),用来表示次方数

尾数位M:最后的 52 位是尾数(mantissa),超出的部分自动进一舍零

三、基于以上知识,在数据小数位在进行转换二进制时,会出现无线循环的情况,而数据转成 IEEE754标准时又仅支持 52 位,所以要发生一个数据截断,也就是精度丢失。

四、常见的丢失场景,

 0.1 + 0.2 === 0.30000000000000004

parseInt(0.58*100,10)=57

(1.335).toFixed(2)

四、解决办法

math.js

bignumber.js

等库以及 es6 针对整数精度丢失的新数据类型BigInt 

相关文章

  • [js]数值的精度

    基础知识 js内部所有数字在计算机内存中的表示都是64位双精度浮点数 双精度浮点数表示法的副作用 使用二进制浮点数...

  • js 双精度浮点数

    一、怎样将一个数据转成浮点数https://www.zhihu.com/question/21711083 二、j...

  • 浮点数

    双精度浮点数类型 double单精度浮点数类型 float 以上两种都使用 浮点数 来表示小数 : 与之相对的是 ...

  • iOS浮点数精度问题

    前言 浮点数是无法精确表示大部分实数的 单精度浮点数和双精度浮点数 单精度(float),一般在计算机中存储占用4...

  • mysql8 数据类型 float double decimal

    float数值类型用于表示单精度浮点数值,而double数值类型用于表示双精度浮点数值,float和double都...

  • Python

    基本类型 1. Number类型 整数: int 浮点数: float(双精度) 其他语言: 单精度(float)...

  • Java 浮点数精度丢失问题的原因

    浮点数,分单精度(float)和双精度(double): float ,介于 -3.402823e38 和 +3....

  • js中如何判断两个浮点数是否相等

    js中Number类型表示数字,采用“IEEE 754 标准定义的双精度64位格式”表示数字,不区分整数值和浮点数...

  • 1.3 Float 浮点型

    浮点型,也叫浮点数float、双精度数double或实数real。 浮点数在精度上会存在一些误差,所以永远不要相信...

  • 关于Python里面小数点精度控制的问题

    基础 浮点数是用机器上浮点数的本机双精度(64 bit)表示的。提供大约17位的精度和范围从-308到308的指数...

网友评论

      本文标题:js 双精度浮点数

      本文链接:https://www.haomeiwen.com/subject/fubdxctx.html