美文网首页Coursera专区
计算机怎么表示小数类型

计算机怎么表示小数类型

作者: 要上班的斌哥 | 来源:发表于2017-07-16 14:50 被阅读49次

计算机怎么表示小数类型呢?小数类型的表示有点类型科学计数法,如 12000000 和 0.0000012的表示


数字表示

接下看看小数的数据格式,我们经常用这个数据格式来表示小数


小数 的数据格式

小数在计算机中按不同的精度表示类型被分为 Float 和 Double 类型,那么小数在计算机的内存中是怎么表示的呢?


小数的内存表示

那么 Float 和 Double 类型在内存中又是怎么表示的呢?Float 采用 32 bits,Double 采用 64 bits 。

不同精度表示

保存正常的小数值,因为 M 的范围都是[1.0 , 2),所以我们不保存 1。比如 1.2,我们用 0.2 来表示


正常的小数值

小数的内存表示中 s 的值,exp 的计算,frac 的内容


小数表示

来个例子说明,说明 s,exp,frac 分别是如何得到的。


小数表示案例

总结计算机小数表示的各种情况


总结

参考

  1. 华盛顿大学的 CSE 351 课程 The Hardware / Software Interface
    https://courses.cs.washington.edu/courses/cse351/17wi/videos.html

相关文章

  • 计算机怎么表示小数类型

    计算机怎么表示小数类型呢?小数类型的表示有点类型科学计数法,如 12000000 和 0.0000012的表示 接...

  • 定点数和浮点数

    在选择计算机的数据表示方式时,通常需要考虑4点因素: 要表示的数据类型(整数,小数,实数和复数) 数值范围 精确度...

  • 计算机怎么表示整数类型

    计算机采用二进制来表示整数,计算机的整数表示方法有Unsigned Integers 和 Signed Integ...

  • Go语言基础数据类型-数值数据类型

    布尔类型 在计算机中,我们用什么数据类型来表示一句话的对错,只有“真”和“假”两种结果。 浮点型 如果不加小数点,...

  • MYSQL数据类型

    1.数值类型 1.1 整数类型 1.2 浮点数类型 1.3 定点数类型(M表示位数,D表示小数点位数) 2.日期和...

  • mysql总结

    1. 字段类型bigdecimal bigdecimal(p,d):p表示多少位数,d表示有多少位表示小数与钱相关...

  • swift 4.x 浮点类型

    浮点类型有两种表示方式:(1)Float:表示32位的浮点类型,可以精确到小数点后6位。(2)Double:表示6...

  • 浮点数的转化遇到的坑

    非原创-搬运记录文章-浮点数的转化遇到的坑 由于计算机表示小数(包括float和double型小数)都有误差,我们...

  • 计算机组成原理之数据的表示及运算

    计算机组成原理之数据的表示及运算 定点数 定点数:计算机中约定机器数小数点位置,小数点的位置固定的数。 定点整数:...

  • Python基础

    数据类型和变量 整数Python可以处理任意大小整数,在计算机中,有时会使用十六进制表示。 浮点数浮点数的小数点位...

网友评论

    本文标题:计算机怎么表示小数类型

    本文链接:https://www.haomeiwen.com/subject/kkbtkxtx.html