美文网首页
基本类型:数值之浮点数类型

基本类型:数值之浮点数类型

作者: 大象信步走来 | 来源:发表于2020-07-02 22:12 被阅读0次

浮点数类型

操作与整数类似
浮点数受到17位有效数字的限制
  • IEEE的国际标准来限定浮点数有效数字,不像python的整数那样和数学中的计算一样
  • 超过的位数用科学记数法来表示
特点
  • 科学记数法

    >>>4e2
    400.0
    >>>4e-2
    0.04
    >>>123456789123456789.0 
    1.2345678912345678e+17  #超过的位数用科学记数法表示
    
  • 有效位数

    >>>367/112
    3.2767857142857144  # 最多显示十七位有效数字
    
    >>> 3.127468275376754729840183757
    3.1274682753767546  # 最多显示十七位有效数字
    
特性
  • 进制转换导致精度误差
    • 当我们进行进制转换的时候,我们输入的是一个用十进制表示的数字,但是计算机内部使用二进制表示的,所以十进制里可能是个有限小数,但是在二进制里面可能会变成一个无限小数
    • 所以像4.2+2.1== 6.3 返回值就是False,为了避免这种情况,我们尽量少进行相等判断而是对等式两边做差,小于一个很小的数,来容错。
>>>5.2 + 3.1
8.3
>>>5.2 + 3.1 == 8.3
True

>>> 4.2 + 2.1
6.300000000000001
>>> 2.1 + 4.2 == 6.3
False

>>>4.2 + 2.1 - 6.3 < 0.00001
True

相关文章

  • JS数据类型回顾

    基本数据类型 基本数据类型UndefineNullBooleanNumber浮点数值数值范围NaN数值转换Stri...

  • JavaScript语言基础(一)

    JavaScript数据类型-数值型(number):最基本的数据类型。不区分整形数值和浮点数值。JavaScir...

  • MySQL主要数据类型

    数值类型,字符类型,日期和时间类型 数值类型:整数类型,浮点数类型。tinyint, smallint, medi...

  • python标准数据类型--数值

    数值类型: python支持的数值类型有整数、浮点数和复数(a+bj) 数值操作 基本四则运算:+-*/,除法运算...

  • 基本类型:数值之浮点数类型

    浮点数类型 操作与整数类似 浮点数受到17位有效数字的限制 IEEE的国际标准来限定浮点数有效数字,不像pytho...

  • mysql8 数据类型 float double decimal

    float数值类型用于表示单精度浮点数值,而double数值类型用于表示双精度浮点数值,float和double都...

  • js中的基本数据类型

    Javascript数据类型 五种基本数据类型: Number数值类型 (整数和浮点数(小数))(八进制、十六进制...

  • 15-MySQL数据类型

    一、数值类型 数值类型包括:整数类型、浮点数类型、定点数类型 1、整数类型 2、设置字段的显示宽度 整数类型的显示...

  • mysql基础——基本数据类型

    内容 1 数值类型2 浮点数类型3 字符串类型4 日期类型5 其他类型 数值类型 注:int(1) 和int(10...

  • Java 后端知识点

    Java 基本类型 八大基本类型,对应数值范围 浮点数丢失精度 集合 List、Set、Map 线程安全保障 Ha...

网友评论

      本文标题:基本类型:数值之浮点数类型

      本文链接:https://www.haomeiwen.com/subject/oimdqktx.html