美文网首页
float编码方式

float编码方式

作者: ssochi | 来源:发表于2018-12-24 21:15 被阅读0次

一直知道float不准确,超过一定范围会溢出。但与同事讨论起float的编码是才发现自己一无所知,像个傻逼。

float编码分为三部分,一位的符号位标识正负,八位的指数位标明小数点的位置,二十三位的尾数位表示其的值。

举个网上的例子,8.25。

转化为二进制就是

1000.01

也可以表示为1.00001 * 2^3

此时符号位为0

指数为3,转化为编码

127 + 3 = 130

及10000010

尾数为00001,那么对应的编码为

00001000000000000000000

这里说说指数与尾数,指数一共八位需要表示-127到127,因此0点就相当于偏移到了127,那么3对应的指数就是127+3.补充一下,当指数为128及指数位为全1时并且尾数全为0时,通常用来表示NaN。

再说尾数,当我们使用二进制的科学计数法,及上面的1.00001 * 2^3,除了当值为0的情况下,所有的数都能表示为1.xxx * 2^n,那么我们只需要把小数点后的数取出来,就能表示这个数的值,比如1.00001的尾数是00001。

值得注意的是0如何表示,所有位全是0。

相关文章

  • float编码方式

    一直知道float不准确,超过一定范围会溢出。但与同事讨论起float的编码是才发现自己一无所知,像个傻逼。 fl...

  • Python learning

    Python learning 编码 计算 Python 支持的数字类型有:int、float、Decimal(十...

  • css笔记 左侧固定宽度 右侧自适应

    float方式 html结构 css代码 float和margin-left flex

  • 自定义View-文字的绘制

    Canvas绘制文字的方式 drawText (String text, float x, float y, Pa...

  • float 编码为 RGBA8

    简述:简单记录一下 如何将 一个 (0-1)float 的值转换到RGBA,和如何从 RGBA 解码出一个(0-1...

  • 【编码】认识编码方式

    认识几种编码方式: ASCII全称美国标准信息交换代码(American Standard Code for In...

  • 讲一下常见编码方式?

    什么是编码: 常见的编码方式:

  • 计算机整数的编码

    整数的两种编码方式是神马? 答:无符号编码和补码编码 编码整数的两种不同方式无符号数编码和补码编码各有什么特点? ...

  • python之json

    JSON编码支持的基本数据类型为 None, bool, int, float 和 str, 以及包含这些类型数据...

  • iOS-视屏编码

    编码方式 在iOS中编码方式有两种硬编码: 在iOS8.0之后,使用原生框架VideoToolBox&AudioT...

网友评论

      本文标题:float编码方式

      本文链接:https://www.haomeiwen.com/subject/majtlqtx.html