美文网首页
IEEE-754浮点数表示法

IEEE-754浮点数表示法

作者: longMountain | 来源:发表于2018-11-19 10:57 被阅读5次

    几乎所有现代编程语言都采用这种二进制浮点表示法。如 JavaScript

    但事实上,二进制浮点数表示法并不能精确地表示类似0.1这样简单的数字。
    例如:

    var x = .3 - .2;
    var y = .2 - .1;
    x == y               //=> false :两指不相等!
    

    由于舍入误差,0.3和0.2之间的近似差值实际上并不等于0.2和0.1之间的近似差值。

    不过,这个问题也只有在比较两个值是否相等的时候才出现。

    相关文章

      网友评论

          本文标题:IEEE-754浮点数表示法

          本文链接:https://www.haomeiwen.com/subject/sbjofqtx.html