美文网首页深入浅出golangGolang
关于浮点数精度再各个编程语言需要注意点

关于浮点数精度再各个编程语言需要注意点

作者: 数据小菜鸟 | 来源:发表于2019-02-19 15:02 被阅读1次

浮点数保留N位 (2位),为货币类场景常用选项。比较合理的做法是使用分来存储(int),然后前端在进行转换。否则你就需要关心浮点数自动 四拾伍入。分清自己使用场景选择自己的合适的方法。已知 (mysql(douboule10,2),golang "%.2f",python "%.2f" )

package main

import (
    "fmt"
    "math"
)

func main() {

    //四拾伍入了
    fmt.Printf("%.2f\n", 1.244444)
    fmt.Printf("%.2f\n", 1.245444) 
    
    //自己实现四拾伍入
    fmt.Printf("%.2f\n", math.Trunc(1.244444*1e2+)*1e-2)
    fmt.Printf("%.2f\n", math.Trunc(1.245444*1e2)*1e-2)
    
    //抛弃掉后面位数
    fmt.Printf("%.2f\n", math.Trunc(1.244444*1e2)*1e-2)
    fmt.Printf("%.2f\n", math.Trunc(1.245444*1e2)*1e-2)
}
golang执行结果.png
>>> "%.2f" % 1.24444
'1.24'
>>> "%.2f" % 1.24555
'1.25'

相关文章

  • 关于浮点数精度再各个编程语言需要注意点

    浮点数保留N位 (2位),为货币类场景常用选项。比较合理的做法是使用分来存储(int),然后前端在进行转换。否则你...

  • 源铸:数值处理问题

    一、数值存储计算方案 高精度浮点数 采用双精度浮点数是最简单的存储方案,数据库支持,编程语言也支持。只要数据库和编...

  • 2018-09-12

    一、Python的基本数据类型 整数:int 浮点数:float注意,在其他语言中有:单精度:float,双精度:...

  • HTML,CSS,JS练习题

    1.与其他 IEEE 754 表示浮点数的编程语言一样,JavaScript 的 number 存在精度问题,比如...

  • JS浮点数字操作插件floatOPS.js

    /** * floatOPS 包含加减乘除四个方法,能确保浮点数运算不丢失精度 * * 我们知道计算机编程语言里浮...

  • Python

    基本类型 1. Number类型 整数: int 浮点数: float(双精度) 其他语言: 单精度(float)...

  • js浮点金额计算精度

    在js中进行以元为单位进行浮点数计算时,会产生精度问题,例如: 大多数编程语言计算采用的是IEEE 754 标准,...

  • js浮点金额计算精度

    在js中进行以元为单位进行浮点数计算时,会产生精度问题,例如: 大多数编程语言计算采用的是IEEE 754 标准,...

  • JavaScript项目开发中需要注意的点

    前言 列举一下在实际开发项目中,应该注意的点 问题点 精度问题 与大部分现代编程语言一样(几乎所有的脚本语言),J...

  • BigDecimal加减乘除计算

    一、简述 在很多编程语言中,浮点数类型float和double运算会丢失精度。 在大多数情况下,计算的结果是准确的...

网友评论

    本文标题:关于浮点数精度再各个编程语言需要注意点

    本文链接:https://www.haomeiwen.com/subject/zxffyqtx.html