美文网首页
浮点数的位数显示小问题

浮点数的位数显示小问题

作者: 搬布 | 来源:发表于2018-10-10 08:54 被阅读20次

写了一个小程序,结果发现一个小问题:


image.png

周长的结果显示是小数点后15位,面积的结果则是小数点后1位。

本着强迫症的强迫精神,忍不住做了一点测试,如下图:


image.png
image.png
image.png

完全找不到规律啊!不知道Python何时会显示多少位小数。

今天(第二天)想明白这个问题:不要去纠结这个问题,知道有这种情况存在就好。一、不要使用浮点数进行比较,特别是存在运算时,特别要注意运算的结果会不会是一个浮点数。二、如果运算的结果是浮点数,记得要做处理,比如格式化显示结果,或用round()函数进行处理。

相关文章

  • 浮点数的位数显示小问题

    写了一个小程序,结果发现一个小问题: 周长的结果显示是小数点后15位,面积的结果则是小数点后1位。 本着强迫症的强...

  • JS浮点数保留小数点2位数

    JS浮点数保留小数点2位数

  • python基础

    一、字符类型 1、浮点数float(1)打印指定位数的浮点数print("%.xf" % num):其中,x表示要...

  • numpy必知必会-第五天

    21 限制numpy array中的浮点数位数 例如:输入array([[0.11680849, 0.11692...

  • Python基础知识点拾遗

    浮点数 系统浮点数信息 1.完整信息 显示结果为: 2.浮点数能表示的最大值 3.浮点数能表示的最近接0的值 4....

  • MYSQL数据类型

    1.数值类型 1.1 整数类型 1.2 浮点数类型 1.3 定点数类型(M表示位数,D表示小数点位数) 2.日期和...

  • python在字符串中使用变量

    1. 使用连接符: + 2. 使用占位符来内插 打印字符串 打印整数 打印浮点数 打印浮点数(指定保留小数点位数)...

  • python 格式化输出

    1.打印字符串 2.打印整数 3.打印浮点数 4.打印浮点数(指定保留小数点位数) 5.指定占位符宽度 6.指定占...

  • 单精度浮点数(float)与双精度浮点数(double)的区别

    (1)在内存中占有的字节数不同 单精度浮点数在机内占4个字节 双精度浮点数在机内占8个字节 (2)有效数字位数不同...

  • Js基本数据结构总结

    1.Number类型Number类型包含整数和浮点数(浮点数数值必须包含一个小数点,且小数点后面至少有一位数字)两...

网友评论

      本文标题:浮点数的位数显示小问题

      本文链接:https://www.haomeiwen.com/subject/bfdeaftx.html