美文网首页
DECIMAL字段字节计算

DECIMAL字段字节计算

作者: imjcw | 来源:发表于2020-02-27 18:05 被阅读0次

前言

最近在看《深入浅出MySQL》一书,看到了数值类型那一节。里面介绍了一些常用字段的相关信息,如字节长度、最大值、最小值等。

当看到 DECIMAL 字段时,它的字节数是 M+2,这个让我很不解,是为什么?

查阅+理解

DECIAMLFLOATDOUBLE 的存储方式不同。

FLOATDOUBLE 是用二进制存储数据的,所以会有部分精度问题。

DECIAML 是用字符串的方式存储的,所以它不存在精度问题,那么它的长度就是存储字节的长度。

那么问题来了,例如:DECIMAL(5,2) 的最大值是 999.99,那么总长度也就是 5+1,又为什么是 5+2 呢?

隐藏的 +

第二天工作的时候,帮忙拉取一个数据,就手动操作了一把,其中两个数据要相加一下。当我看到那个 + 号时,我想通了。

DECIMAL 也是有符号位的,而当时我只看的最大值,如果看最小值的话,就能够想通为什么是 M+2 了。

所以最终 DECIMAL 的长度计算方式是:1个字节的符号位 + 一个字节的小数点位 + 纯数字的长度(M) = 1 + 1 + M = M + 2。

结语

困点得以解决,这种思考是被人直接告知要更加难得的,问题虽小,值得纪念。

-- EOF --
本文转载自IMJCW
原文链接:DECIMAL字段字节计算

相关文章

  • DECIMAL字段字节计算

    前言 最近在看《深入浅出MySQL》一书,看到了数值类型那一节。里面介绍了一些常用字段的相关信息,如字节长度、最大...

  • Mysql增删改查

    创建数据库 删除数据库 修改字段的值 添加字段 修改字段 修改decimal后面的小数点 删除字段

  • mysql数据完整性

    数据库中的字段类型 mysql中的数据类型有很多,常用的数据类型如下 数字:int,decimal decimal...

  • decimal精确计算

    关系型数据库mysql中,存储10.00这个值,若以float类型存储,是10.0,若以int类型存储,是1...

  • Mybatis插入SQLServer数字时丢失小数位

    Mybatis批量插入时会遇到丢失Decimal小数位的问题,在一个插入批次中,Decimal字段的精度是由第一条...

  • 5. 创建计算字段

    创建计算字段 计算字段 字段(field)与列的意思相同数据库列一般称列,而字段常与计算字段一起使用。 计算字段并...

  • 《SQL必知必会》第 7 课 创建计算字段

    目标 7.1 计算字段 7.2 拼接字段 7.3 执行算术计算 这一课介绍什么是计算字段,如何创建计算字段,以及如...

  • 前端常用Utils工具函数库合集

    常用计算库:https://mikemcl.github.io/decimal.js/#toFixed /** *...

  • MySQL 查询保留2位小数点

    select convert(aa/1000,decimal(10,2));表中aa字段除以1000 小数点后四舍...

  • mysql 数据库

    Mysql字段类型 时间类型 复合类型 总结1 手机号 char(11)姓名 char(20)价格 decimal...

网友评论

      本文标题:DECIMAL字段字节计算

      本文链接:https://www.haomeiwen.com/subject/ytftnctx.html