美文网首页时间管理司马腾超级自控力学院
《编码》23章 定点数和浮点数 18/71天阅读

《编码》23章 定点数和浮点数 18/71天阅读

作者: 皮卡丘_83e1 | 来源:发表于2018-09-13 22:32 被阅读0次

    单精度浮点数的精度为1/2的24次方,或1/16777216,或百万分之六。这意味着在单精度浮点格式下,16777216和16777217将表示成同一个数。不仅如此,处于这两个数之间的所有的数也将被表示成同一个数。

    如果为银行编写程序,用单精度来存放美元、美分值时,更愿意使用定点数。

    双精度可以提高这种精度。

    由于浮点计算复杂,因此引入FPU,浮点运算单元。

    相关文章

      网友评论

        本文标题:《编码》23章 定点数和浮点数 18/71天阅读

        本文链接:https://www.haomeiwen.com/subject/dtzggftx.html