美文网首页
4-1对数值取整、精确计算和格式化输出

4-1对数值取整、精确计算和格式化输出

作者: cuzz_ | 来源:发表于2018-03-03 22:54 被阅读0次

对数值取整

当我们想要将一个浮点数取整到固定的小数位
对于简单的取整操作,可以使用round(value, ndigits)函数,采用四舍五入取值

>>> round(1.23, 1)
1.2
>>> round(1.25, 1)
1.3

round()中的参数ndigits可以是负数,这种情况下会相应的取整到十位、百位、千位

>>> a = 123456
>>> round(a, -1)
123460
>>> round(a, -2)

精确度的小数计算

我们需要对小数进行计算时,不希望因为浮点数天生的误差而带来的影响

>>> a = 4.2
>>> b = 2.1
>>> a + b
6.300000000000001
>>> (a + b) == 6.3
False

如果希望得到更高的精度(牺牲一些性能),可以使用decimal模块

>>> from decimal import Decimal
>>> a = Decimal("4.2")
>>> b = Decimal("2.1")
>>> a + b
Decimal('6.3')
>>> print(a + b)
6.3
>>> (a + b) == Decimal("6.3")
True

对数值做格式化输出

对一个单独的数值做格式化输出,使用内建的format()函数

>>> x = 1234.56789
# 0.2f 其中0表示默认位数,2表示小数位数,f 表示数据类型
>>> format(x, "0.2f")
'1234.57'
>>> format(x, "10.2f")
'   1234.57'
>>> format(x, ">10.2f")
'   1234.57'
>>> format(x, "<10.2f")
'1234.57   '
>>> format(x, "^10.2f")
' 1234.57  '

相关文章

  • 4-1对数值取整、精确计算和格式化输出

    对数值取整 当我们想要将一个浮点数取整到固定的小数位对于简单的取整操作,可以使用round(value, ndig...

  • BigDecimal大精度小数

    BigDecimal用于精度计算 输出结果: 在计算数值的时候,由于浮点数没有办法精确的对二进制进行计算,所以经常...

  • day62 2020-3-2

    例62 使用INT函数对平均销量取整 (书中第57页) INT函数用于将指定数值向下取整为最接近的整数。本例中计算...

  • Python基础代码的学习

    基础输入输出 精确计算 数值转换与计算 列表基础 列表提高 可变序列及列表通用操作 猜数字游戏

  • 2019-02-18

    2019-02-18例:对数值进行取整计算INT(7,64)=7=TRUNC(7.64)=7INT函数只能保留数值...

  • Golang中除法和取模运算与Python3的区别!

    除法的取整分为三类:向上取整、向下取整、向零取整。 向上取整:向+∞ 方向取最接近精确值的整数。在这种取整方式下,...

  • js数值方法

    Math方法 绝对值 获取x的绝对值 取整 对数值x四舍五入取整 对数值x向上取整,返回大于x的最小整数 对数值x...

  • 【华为机试】取近似值

    题目描述: 写出一个程序,接受一个正浮点数值,输出该数值的近似整数值。如果小数点后数值大于等于5,向上取整;小于5...

  • Python3 print函数用法总结

    1、字符串和数值类型可以直接输出 2.变量 各种数据类型数值、布尔、列表和字典等都可以直接输出 3.格式化输出 类...

  • swift 取整

    取整 向上取整 ceil(a) 返回不小于变量a的最小整数值 向下取整 floor(a) 返回不大于变量a的最大整...

网友评论

      本文标题:4-1对数值取整、精确计算和格式化输出

      本文链接:https://www.haomeiwen.com/subject/byyxfftx.html