美文网首页
定点数与浮点数

定点数与浮点数

作者: 比叡 | 来源:发表于2017-06-01 18:21 被阅读0次

定点数

小数点固定在某一个位置的数为定点数。

定点整数

数符+数值部分+小数点

表示范围 -(2^n -1)<=n<=(2^n-1)

定点小数

数符+小数点+数值部分

表示范围 -(1-2^n)<=n<=(1-2^n)


浮点数

浮点数是小数点的位置可以浮动的数。

浮点数表示为 N=S×r^j (浮点数=尾数×基数^阶码)

举例:十进制- 12345=1.2345×10^4

           二进制- 11010=0.11010×2^101

为了提高精度和便于比较,浮点数的尾数用纯小数的形式,并将尾数最高位为1的浮点数称为规格化数,比如0.011010和0.11010都可以采用,而0.11010才是规格化的尾数。

机器中的表示形式

阶符+阶码+数符+尾数

阶符和数符分别表示阶码和尾数的正负;

阶符+阶码=总位数m表示浮点数的表示范围及小数点的位置;

尾数的位数n表示浮点数的精度,越大精度越大

相关文章

  • SQL数据类型

    一、整数类型、浮点数类型和定点数类型 1、整数类型 2、浮点数类型和定点数类型 M表示:数据的总长度(不包括小数点...

  • 浮点数定点数

    基础知识 浮点数和定点数都是对于存在小数部分的数字一种表示方法 浮点数和定点数表示法的区别?根据国际标准IEEE ...

  • 第一张出题 1

    下列关于浮点数与定点小数的利与弊说法错误的是__ A.浮点数表示数的范围比定点数表示数的范围小 .B.浮点数表示数...

  • Q格式(Q domain)-用整数运算小数

    定义 由于成本与功耗受限的原因,对于DSP处理器,遇到浮点数无法处理,所以需要利用定点数进行浮点数的运算,而DSP...

  • 定点数与浮点数

    定点数 小数点固定在某一个位置的数为定点数。 定点整数 数符+数值部分+小数点 表示范围 -(2^n -1)<=n...

  • 简易讲解定点数与浮点数

    简易讲解定点数与浮点数 1. 定点数:由程序设计者约定,该程序中所有数的小数点固定在同一位置不变。 例: 我们约定...

  • 定点数和浮点数

    在计算机中的数据有定点数和浮点数两种表示方式。 1.定点数 小数点固定在某个位置上的数据 2.浮点数 小数点位置可...

  • 数据类型

    数据类型学习摘要(只记录自己认为难理解的和易忘记的) 一、浮点数(FLOAT/DOUBLE)与定点数(DECIMA...

  • 「组成原理」运算方法和运算器-1

    本章主要讲解如何用定点数进行四则运算和如何用浮点数进行加减法,同时会对定点数的四则运算进行实例化。 目录: 定点数...

  • mysql基础数据类型118-124

    #常见的数据类型 /* 数值型: 整形 小数: 定点数 浮点数 字符型: 较短的文本:...

网友评论

      本文标题:定点数与浮点数

      本文链接:https://www.haomeiwen.com/subject/eobefxtx.html