单精度浮点数的精度为1/2的24次方,或1/16777216,或百万分之六。这意味着在单精度浮点格式下,16777216和16777217将表示成同一个数。不仅如此,处于这两个数之间的所有的数也将被表示成同一个数。
如果为银行编写程序,用单精度来存放美元、美分值时,更愿意使用定点数。
双精度可以提高这种精度。
由于浮点计算复杂,因此引入FPU,浮点运算单元。
单精度浮点数的精度为1/2的24次方,或1/16777216,或百万分之六。这意味着在单精度浮点格式下,16777216和16777217将表示成同一个数。不仅如此,处于这两个数之间的所有的数也将被表示成同一个数。
如果为银行编写程序,用单精度来存放美元、美分值时,更愿意使用定点数。
双精度可以提高这种精度。
由于浮点计算复杂,因此引入FPU,浮点运算单元。
本文标题:《编码》23章 定点数和浮点数 18/71天阅读
本文链接:https://www.haomeiwen.com/subject/dtzggftx.html
网友评论