美文网首页
double,float精度

double,float精度

作者: 抽象的海宁 | 来源:发表于2018-02-02 00:53 被阅读27次

对于这个问题,还是得看计算机原理。

我们这个问题,可以用科学计数法来表示,1.222222332412341234*10(333),

对于二进制来说,这也是可以的,

如此,我们只要在存储的时候,把小数部分全部存储起来,并且把表示多少次方的说存储起来,就可以了,

当然还少不了表示正负号的位,如此,这样就可以表示数了,

那精度怎么来的呢,

1.222 1.22222222

哪个精确呢,当然是第二个,

那我们0.1,表示成二进制,如何呢,

0.1 = 0*2(-1)+0*2(-2)+0*2(-3)+1*2(-4)+1*2(-5)+0*2(-6)....

那float和double的差别呢就是在,能够表示的位数不同。

相关文章

  • double,float精度

    对于这个问题,还是得看计算机原理。 我们这个问题,可以用科学计数法来表示,1.222222332412341234...

  • mysql8 数据类型 float double decimal

    float数值类型用于表示单精度浮点数值,而double数值类型用于表示双精度浮点数值,float和double都...

  • C语言学习 - 浮点型数据类型

    在 C语言中,浮点型数据类型可分为:float(单精度)、double(双精度)、long double(长双精度...

  • 记一道精度转换面试题

    解释:1.向上转换不会丢失精度(float--->double),向下转才会丢失精度(double--->floa...

  • Java 浮点数精度丢失问题的原因

    浮点数,分单精度(float)和双精度(double): float ,介于 -3.402823e38 和 +3....

  • 浮点类型解析

    一、类型定义浮点类型有float、double、long double类型,即单精度、双精度、长双精度,一般情况下...

  • float、double数字精度

    特殊字符说明“0” 指定位置不存在数字则显示为0 123.123 ->0000.0000 ->0123.1230“...

  • float与double的精度范围

    float与double的范围和精度 1. 范围 float和double的范围是由指数的位数来决定的。 floa...

  • c++ primer 阅读 day2

    第I部分 C++ 基础 2.1 基本内置类型 float 精度float和double的精度是由尾数的位数来决定的...

  • 浮点数的表示

    语言和C#语言中,对于浮点类型的数据采用单精度类型(float)和双精度类型(double)来存储,float数据...

网友评论

      本文标题:double,float精度

      本文链接:https://www.haomeiwen.com/subject/osfszxtx.html