美文网首页python学习笔记Python
python里“四舍五入”的坑

python里“四舍五入”的坑

作者: Hobbit的理查德 | 来源:发表于2020-04-16 19:59 被阅读0次

之前要做批量报告的同事发来消息说,图片里的数据是不是没有四舍五入再保留2位小数的。Python批量word报告(带图)【思路篇】

我一惊,不对呀,该round的round了,该format的format了啊,

返回去看代码,确实是该加的都加上了呀,

我又回去看是哪个数据的问题,结果发现:

98.125.png

此时,之前课程上提到的关于浮点数的精度的问题浮现在脑海,

搜索引擎来一下,发现,这果然是个不小心就能掉进去的坑啊。

好在查了一遍,发现只有一份报告的一个图存在这个问题,只需要修改一个图片就行~~

不过这个坑还是很值得记一记的,之后要再来这种批量作图的时候,还是需要注意这种四舍五入的问题!


首先,round或format函数在四舍五入保留小数位数时,后一位是5的时候,很容易产生不符合要求的结果。

看了一圈,感觉这个讲得还是比较详细的,Python四舍五入问题详解,可以自己去细看。

引用该帖子里的一句话:

这是一个超出我们想象的复杂问题,其结果往往使我们很颓丧,甚至不敢再相信计算机

自己跑了一系列值之后,红色框内的结果是不符合要求的结果:

系列值.png
系列值2.png

是不是看起来很迷?

据说主要原因就是python中,float类型采用二进制编码描述浮点数,而round函数的取舍方式是靠近最近和偶数。

例如,我们输入和肉眼看到的是1.115,但是,如果将其保留20位小数的时候,并不是我们想象的那样,如下图所示:

1.115.png

因此,改值相较于1.11和1.12来说,这个值是更靠近1.11的,因此,保留两位小数的时候就是1.11了。

那这是不是就表示round或format函数不能用了呢?那倒也不是。

如果说能确定数据中不涉及到.**5的问题,例如,只是用format来解决9.89.80的形式呈现的问题的话,就可以放心的用。

但是,如果是通过python计算出来的值,然后想要四舍五入保留2位小数的话,

这时候还是自定义函数靠谱些。

例如:

#定义四舍五入函数
def new_round(_float, _len):
    if str(format(_float,'.'+str(_len+1)+'f'))[-1] == '5':
        return format(round(float(str(_float)[:-1]+'6'), _len),'.'+str(_len)+'f')
    else:
        return format(round(_float, _len),'.'+str(_len)+'f')

然后,打印比较一下上述红框中的值,通过不同函数四舍五入保留2位小数的结果,还是用自定义函数靠谱些:

new系列值.png new系列值2.png

相关文章

  • python里“四舍五入”的坑

    之前要做批量报告的同事发来消息说,图片里的数据是不是没有四舍五入再保留2位小数的。Python批量word报告(带...

  • python实现精确的四舍五入

    由于计算精度的问题,python无法实现真正的四舍五入round四舍五入时是遵循靠近0原则,所以-0.5和0.5进...

  • Python四舍五入

    通常,python四舍五入使用内置的round函数就可以了 然而,对于需要精确的四舍五入,就有问题 原因是,部分小...

  • Python里的那些坑

    # Python里的那些坑 - Python是一门清晰简洁的语言,如果你对一些细节不了解的话,就会掉入到那些深不见...

  • python里tuple的坑

    错误原因 结果老是报异常not all arguments converted during string for...

  • Python 2 与 python 3的区别

    python3已经将print置为内置函数,因此输出用print() round()四舍五入函数: python3...

  • python入坑ing

    python入坑ing

  • 新电脑配置python2环境遇到的坑

    坑1: 坑2: 坑3: 入职新公司,配置的小米的笔记本,老项目有python2开发的,所以要配置一下Python2...

  • install scrapy on mac osx

    又是python3,发现坑真多,能不能好好用python3了... macosx安装scrapy的坑真多,纪录一下...

  • python 里那些容易踩的坑

    1. 无返回值的函数 这里最常见的就是list的反转函数reverse(), 有时候一不小心就会出现下面的错误 r...

网友评论

    本文标题:python里“四舍五入”的坑

    本文链接:https://www.haomeiwen.com/subject/findvhtx.html