美文网首页
decimal常用操作和需要注意的地方

decimal常用操作和需要注意的地方

作者: 路人甲已病 | 来源:发表于2019-10-16 10:51 被阅读0次

    decimal模块

    简介

    decimal意思为十进制,这个模块提供了十进制浮点运算支持。

    常用方法
    1.可以传递给Decimal整型或者字符串参数,但不能是浮点数据,因为浮点数据本身就不准确

    2.要从浮点数据转换为Decimal类型

    
    from decimal import *
    
    Decimal.from_float(12.222)
    
    # 结果为Decimal('12.2219999999999995310417943983338773250579833984375')
    
    

    3.通过设定有效数字,限定结果样式:

    
    from decimal import *
    
    getcontext().prec = 6
    
    Decimal(1)/Decimal(7)
    
    # 结果为Decimal('0.142857'),六个有效数字
    
    

    4.四舍五入,保留几位小数

    
    from decimal import *
    
    Decimal('50.5679').quantize(Decimal('0.00'))
    
    # 结果为Decimal('50.57'),结果四舍五入保留了两位小数
    
    

    5.Decimal 结果转化为string

    
    from decimal import *
    
    str(Decimal('3.40').quantize(Decimal('0.0')))
    
    # 结果为'3.4',字符串类型
    
    

    相关文章

      网友评论

          本文标题:decimal常用操作和需要注意的地方

          本文链接:https://www.haomeiwen.com/subject/mzuymctx.html