美文网首页
关于定点数和浮点数

关于定点数和浮点数

作者: 郝宇峰 | 来源:发表于2017-06-21 06:10 被阅读0次

1. 为什会有定点浮点之分

因为在一些嵌入式系统中,例如FPGA, MCU, DSP等,受到计算体系结构,计算资源和系统指令的限制,无法处理任意分辨率的数据,即其所能处理的数据精度限制的。这里的点就是精度的意思。浮点就是小数点可以浮动,一般而言精度高,定点即小数点位置是固定的,一般而言精度低一些。

2,定点数如何进行四则运算

由于在定点系统中,一般数据的长度是有限的,例如8bit,16bit,32bit。所以如果用二进制表示数据的化,加和减就可以直接进行,乘和除2的倍数可以通过移位解决。关键的地方在乘以或除以一个非2的整数或小数的情况,在定点系统中一般是通过(x/0xffff)这种方式处理的,即先除以一个最大精度范围,然后再乘以一个系数,这里的最大精度范围和系数都是用二进制表示的。具体的定点系统有Q(16,1)等表示定点位置的方法。

3. 数据溢出

定浮点数都需要注意数据溢出的问题,特别是在定点数据处理中,由于有符号位的存在,在判断数据溢出时要考虑符号位。

相关文章

  • SQL数据类型

    一、整数类型、浮点数类型和定点数类型 1、整数类型 2、浮点数类型和定点数类型 M表示:数据的总长度(不包括小数点...

  • 浮点数定点数

    基础知识 浮点数和定点数都是对于存在小数部分的数字一种表示方法 浮点数和定点数表示法的区别?根据国际标准IEEE ...

  • 关于定点数和浮点数

    1. 为什会有定点浮点之分 因为在一些嵌入式系统中,例如FPGA, MCU, DSP等,受到计算体系结构,计算资源...

  • 第一张出题 1

    下列关于浮点数与定点小数的利与弊说法错误的是__ A.浮点数表示数的范围比定点数表示数的范围小 .B.浮点数表示数...

  • 定点数和浮点数

    在计算机中的数据有定点数和浮点数两种表示方式。 1.定点数 小数点固定在某个位置上的数据 2.浮点数 小数点位置可...

  • 「组成原理」运算方法和运算器-1

    本章主要讲解如何用定点数进行四则运算和如何用浮点数进行加减法,同时会对定点数的四则运算进行实例化。 目录: 定点数...

  • 智能合约编程/Dapp漏洞 -- 浮点数精度Floating P

    到Solidity v0.4.24为止,Solidity并不支持定点数和浮点数。这意味着浮点数的表示必须要用Sol...

  • 定点数和浮点数

    在选择计算机的数据表示方式时,通常需要考虑4点因素: 要表示的数据类型(整数,小数,实数和复数) 数值范围 精确度...

  • Float Double Decimal 区别

    本文介绍 浮点数和定点数的区别,以及float和double的区别另外介绍了decimal以及使用场景 我们知道,...

  • 数字

    在计算机中根据小数点位置是否固定,数字分为定点数和浮点数两种类型,整数属于定点数,它的小数点始终固定在最右边。浮点...

网友评论

      本文标题:关于定点数和浮点数

      本文链接:https://www.haomeiwen.com/subject/llhzqxtx.html