美文网首页
MySQL 数据库设计规范

MySQL 数据库设计规范

作者: wcmszgdqm | 来源:发表于2021-10-14 23:02 被阅读0次

    2021-05-29 v1.0.1

    目录

    1. 规范背景与目的

    MySQL 数据库与 Oracle、 SQL Server 等数据库相比,有其内核上的优势与劣势。我们在使用 MySQL 数据库的时候需要遵循一定规范,扬长避短。
    本规范旨在帮助或指导技术人员做出适合线上业务的数据库设计。在数据库变更和处理流程、数据库表设计、SQL 编写等方面予以规范,从而为业务系统稳定、健康地运行提供保障。

    2. 设计规范

    2.1 数据库设计

    以下所有规范会按照【强制】、【建议】两个级别进行标注。

    2.1.1 一般命名规则

    1. 【强制】使用小写,避免因大小写敏感而导致的错误。
    2. 【强制】没有空格,使用下划线代替。
    3. 【强制】名称中没有数字,只有英文字母,单词之间用下划线分隔。
    4. 【强制】有效的可理解的名称,禁止拼音英文混用,库名最好与应用名称一致。
    5. 【强制】名称应该是自我解释的。
    6. 【强制】名称不应超过 32 个字符。
    7. 【强制】使用前缀,便于业务分类。

    2.1.2 库

    1. 【强制】遵守以上全部一般命名规则。
    2. 【强制】使用单数命名。
    3. 【强制】库的名称格式:业务系统名称_子系统名。
    4. 【强制】一般分库名称命名格式是 库通配名_编号,编号从 0 开始递增,比如 northwind_001,以时间进行分库的名称格式是库通配名_时间
    5. 【强制】开发环境库的名称增加后缀 _dev,测试环境增加后缀 _test
    6. 【强制】创建数据库时必须显式指定字符集,并且字符集只能是 utf8utf8mb4,优先使用 utf8mb4

    2.1.3 表

    1. 【强制】遵守以上全部一般命名规则。
    2. 【强制】使用单数命名。
    3. 【强制】表的名称格式:业务模块名称_表名。视图增加前缀 v_
    4. 【强制】每个表建议不超过 30-50 个字段。
    5. 【强制】相关模块的表名与表名之间尽量体现 join 的关系,如 user 表和 user_login 表。
    6. 【强制】创建表时必须显式指定字符集为 utf8utf8mb4,优先使用 utf8mb4
    7. 【强制】创建表时必须显式指定表存储引擎类型,如无特殊需求,一律为 InnoDB。当需要使用除 InnoDB/MyISAM/Memory 以外的存储引擎时,必须通过 DBA 审核才能在生产环境中使用。因为 InnoDB 表支持事务、行锁、宕机恢复、MVCC 等关系型数据库重要特性,为业界使用最多的 MySQL 存储引擎。而这是其它大多数存储引擎不具备的,因此首推 InnoDB。
    8. 【强制】建表必须有 comment。
    9. 【建议】关于主键:每个表必须有主键。(1) 类型为 bigint,使用 snowflake 雪花算法生成,禁止使用自增数值主键;(2) 命名格式是 表名_id ,例如 user_idorder_id,禁止使用 id 命名,多表关联时容易产生混淆。
    10. 【建议】核心表(如用户表,金钱相关的表)必须有行数据的创建人、创建时间、修改人、修改时间字段 create_useridcreate_timeupdate_useridupdate_time,便于排查问题。
    11. 【建议】表中所有字段必须都是 NOT NULL 属性,业务可以根据需要定义 DEFAULT 值。因为使用 NULL 值会存在每一行都会占用额外存储空间、数据迁移容易出错、聚合函数计算结果偏差等问题。
    12. 【建议】建议对表里的 blobtext 等大字段,垂直拆分到其它表里,仅在需要读这些对象的时候才去 select。
    13. 【建议】反范式设计:把经常需要 join 查询的字段,在其它表里冗余一份。如 username 属性在 user_accountuser_login_log 等表里冗余一份,减少 join 查询。
    14. 【强制】中间表用于保留中间结果集,名称必须以 tmp_ 开头。备份表用于备份或抓取源表快照,名称必须以 bak_ 开头。中间表和备份表定期清理。
    15. 【强制】对于超过 100 万行的大表进行 alter table,必须经过 DBA 审核,并在业务低峰期执行。因为 alter table 会产生表锁,期间阻塞对于该表的所有写入,对于业务可能会产生极大影响。
    16. 【建议】尽量控制单表数据量的大小,建议控制在 500 万以内。500 万并不是 MySQL 数据库的限制,数据量过大会对修改表结构,数据备份、恢复产生影响。
    17. 【强制】禁止使用存储过程、触发器、Event。
    18. 【建议】建议不使用视图。
    19. 【强制】禁止嵌套视图。
    20. 【强制】禁止存储大文件或者大照片。

    2.1.4 字段

    1. 【强制】遵守以上全部一般命名规则。
    2. 【建议】尽可能选择短的或一两个单词。
    3. 【强制】避免使用保留字作为字段名称:orderdatename 是数据库的保留字,避免使用它。可以为这些名称添加前缀使其易于理解,如 user_namesignup_date 等。
    4. 【强制】避免使用与表名相同的字段名,这会在编写查询时造成混淆。
    5. 【建议】字符集和库级保持一致。不单独定义字段字符集。
    6. 【建议】反范式设计:为了提高数据更新性能,禁止使用外键。如果有外键完整性约束,需要应用程序控制。外键会导致表与表之间耦合,update 与 delete 操作都会涉及相关联的表,十分影响性能,甚至会造成死锁。高并发情况下容易造成数据库性能,大数据高并发业务场景数据库使用以性能优先。
    7. 【强制】严禁在数据库中明文存储用户密码、身份证、信用卡号(信用卡PIN码)等核心机密数据。
    8. 【强制】一个字段仅允许表达一种业务含义,例如通过员工职级反映薪资等级是不合适的。
    9. 【强制】多表中的相同列,必须保证列名一致,数据类型一致。

    2.1.5 字段数据类型优化

    1. 【建议】文本数据尽量用 varchar 存储。因为 varchar 是变长存储,比 char 更省空间。字符数不要超过 2700。
    2. 【建议】时间类型尽量选取 datetime
    3. 【建议】业务中选择性很少的状态 status、类型 type 等字段推荐使用 smallint 类型节省存储空间。
    4. 【建议】金额货币科学计数建议采用 decimal 数据类型。
    5. 【建议】禁止使用数据库私有数据类型,例如 enumset,不利于数据库迁移。
    • 详细存储大小参考下图:

      类型(同义词) 存储长度(BYTES) 最小值(SIGNED/UNSIGNED) 最大值(SIGNED/UNSIGNED)
      整形数字
      TINYINT 1 -128/0 127/255
      SMALLINT 2 -32,768/0 32767/65,535
      MEDIUMINT 3 -8,388,608/0 8388607/16,777,215/
      INT(INTEGER) 4 -2,14,7483,648/0 2147483647/4,294,967,295/
      BIGINT 8 -2^63/0 263-1/264-1
      小数支持
      FLOAT[(M[,D])] 4 or 8 -
      DOUBLE[(M[,D])]
      (REAL, DOUBLE PRECISION)
      8 -
      时间类型
      DATETIME 8 1001-01-01 00:00:00 9999-12-31 23:59:59
      DATE 3 1001-01-01 9999-12-31
      TIME 3 00:00:00 23:59:59
      YEAR 1 1001 9999
      TIMESTAMP 4 1970-01-01 00:00:00

    2.1.6 索引设计

    1. 【强制】主键类型为 int/bigint,且主键值禁止被更新。
    2. 【建议】主键索引的名称以 pk_ 开头,唯一键以 uk_ 开头,普通索引以 idx_ 开头,一律使用小写格式,以 表名_字段的名称或缩写 作为后缀。
    3. 【强制】InnoDB 和 MyISAM 存储引擎表,索引类型必须为 BTREE;MEMORY 表可以根据需要选择 HASH 或者 BTREE 类型索引。
    4. 【强制】单个索引中每个索引记录的长度不能超过 64KB。
    5. 【建议】单个表上的索引个数不能超过 5 个。
    6. 【建议】在建立索引时,多考虑建立联合索引,并把区分度最高的字段放在最前面。如列 user_id 的区分度可由 select count(distinct user_id) 计算出来。
    7. 【建议】在多表 join 的 SQL 里,保证被驱动表的连接列上有索引,这样 join 执行效率最高。
    8. 【建议】建表或加索引时,保证表里互相不存在冗余索引。如果表里已经存在 key(a, b),则 key(a) 为冗余索引,需要删除。
    9. 【建议】如果选择性超过 20%,那么全表扫描比使用索引性能更优,即没有设置索引的必要。

    2.1.7 分库分表、分区表

    1. 【强制】分区表的分区字段(partition-key)必须有索引,或者是组合索引的首列。
    2. 【强制】单个分区表中的分区(包括子分区)个数不能超过 1024。
    3. 【强制】上线前 DBA 必须指定分区表的创建、清理策略。
    4. 【强制】访问分区表的 SQL 必须包含分区键。
    5. 【建议】单个分区文件不超过 2G,总大小不超过 50G。建议总分区数不超过 20 个。
    6. 【强制】对于分区表执行 alter table 操作,必须在业务低峰期执行。
    7. 【强制】采用分库策略的,库的数量不能超过 1024。
    8. 【强制】采用分表策略的,表的数量不能超过 4096。
    9. 【建议】单个分表不超过 500 万行,ibd 文件大小不超过 2G,这样才能让数据分布式变得性能更佳。
      10.【建议】水平分表尽量用取模方式,日志、报表类数据建议采用日期进行分表。

    2.1.8 字符集

    1. 【强制】数据库本身库、表、列所有字符集必须保持一致,为 utf8utf8mb4,优先使用 utf8mb4
    2. 【强制】前端程序字符集或者环境变量中的字符集,与数据库、表的字符集必须一致,统一为 utf8

    2.1.9 程序层 DAO 设计建议

    1. 【强制】SQL 使用绑定变量传入参数的方式,避免 SQL 注入。
    2. 【建议】前端程序连接数据源,必须要有连接超时和失败重连机制,且失败重试必须有间隔时间。
    3. 【建议】前端程序报错里尽量能够提示原生态的报错信息,便于排查错误。
    4. 【建议】对于有连接池的前端程序,必须根据业务需要配置初始、最小、最大连接数,超时时间以及连接回收机制,否则会耗尽数据库连接资源,造成线上事故。
    5. 【建议】对于 loghistory 类型的表,随时间增长容易越来越大,因此上线前 DBA 必须建立表数据清理或归档方案。
    6. 【建议】在应用程序设计阶段,必须考虑并规避数据库中主从延迟对于业务的影响。尽量避免从库短时延迟(20 秒以内)对业务造成影响,建议强制一致性的读开启事务走主库,或更新后过一段时间再去读从库。
    7. 【建议】多个并发业务逻辑访问同一块数据(InnoDB 表)时,会在数据库端产生行锁甚至表锁导致并发下降,因此建议更新类 SQL 尽量基于主键去更新。
    8. 【建议】业务逻辑之间加锁顺序尽量保持一致,否则会导致死锁。
    9. 【建议】对于单表读写比大于 10:1 的数据行或单个列,可以将热点数据放在缓存里(如 Memcached 或 Redis),加快访问速度,降低数据库压力。

    2.1.10 一个规范的建表语句示例

    • 一个较为规范的建表语句为:
      create table user 
      ( 
          `id`            bigint(11) not null, 
          `user_id`       bigint(11) not null comment '用户 ID', 
          `username`      varchar(45) not null comment '登录名', 
          `email`         varchar(30) not null comment '邮箱', 
          `nickname`      varchar(45) not null comment '昵称', 
          `avatar`        int(11) not null comment '头像', 
          `birthday`      date not null comment '生日', 
          `gender`        tinyint(4) default '0' comment '性别', 
          `intro`         varchar(150) default null comment '简介', 
          `resume_url`    varchar(300) not null comment '简历存放地址', 
          `register_ip`   int not null comment '用户注册时的源 IP', 
          `review_status` tinyint not null comment '审核状态,1-通过,2-审核中,3-未通过,4-尚未提交审核', 
          `create_time`   timestamp not null comment '记录创建的时间', 
          `update_time`   timestamp not null comment '资料修改的时间', 
          
          primary key (`id`), 
          unique key `idx_user_id` (`user_id`), 
          key `idx_username`(`username`), 
          key `idx_create_time`(`create_time`, `review_status`) 
      ) 
      engine = InnoDB
      default charset = utf8 
      comment = '用户基本信息'; 
      

    2.2 SQL 编写

    2.2.1 DML 语句

    1. 【强制】select 语句必须指定具体字段名称,禁止写成 *。因为 select * 会将不该读的数据也从 MySQL 里读出来,造成网卡压力。
    2. 【强制】insert 语句指定具体字段名称,不要写成 insert into t1 values(…),道理同上。
    3. 【建议】insert into … values(xx),(xx),(xx)…,这里 xx 的值不要超过 5000 个。值过多虽然上线很快,但会引起主从同步延迟。
    4. 【建议】select 语句不要使用 union,推荐使用 union all,并且 union 子句个数限制在 5 个以内。因为 union all 不需要去重,节省数据库资源,提高性能。
    5. 【建议】in 值列表限制在 500 以内。例如 select … where user_id in(…500 个以内…),这么做是为了减少底层扫描,减轻数据库压力从而加速查询。
    6. 【建议】事务里批量更新数据需要控制数量,进行必要的 sleep,做到少量多次。
    7. 【强制】事务涉及的表必须全部是 InnoDB 表。否则一旦失败不会全部回滚,且易造成主从库同步终端。
    8. 【强制】写入和事务发往主库,只读 SQL 发往从库。
    9. 【强制】除静态表或小表(100 行以内),dml 语句必须有 where 条件,且使用索引查找。
    10. 【强制】生产环境禁止使用 hint,如 sql_no_cacheforce indexignore keystraight join 等。因为 hint 是用来强制 sql 按照某个执行计划来执行,但随着数据量变化我们无法保证自己当初的预判是正确的,因此我们要相信 MySQL 优化器。
    11. 【强制】where 条件里等号左右字段类型必须一致,否则无法利用索引。
    12. 【建议】select|update|delete|replace 要有 where 子句,且 where 子句的条件必需使用索引查找。
    13. 【强制】生产数据库中强烈不推荐大表上发生全表扫描,但对于 100 行以下的静态表可以全表扫描。查询数据量不要超过表行数的 25%,否则不会利用索引。
    14. 【强制】where 子句中禁止只使用全模糊的 like 条件进行查找,必须有其它等值或范围查询条件,否则无法利用索引。
    15. 【建议】索引列不要使用函数或表达式,否则无法利用索引。如 where length(name) = 'admin'where user_id + 2 = 10023
    16. 【建议】减少使用 or 语句,可将 or 语句优化为 union,然后在各个 where 条件上建立索引。如 where a = 1 or b = 2 优化为 where a = 1 … union … where b = 2, key(a), key(b)
    17. 【建议】分页查询,当 limit 起点较高时,可先用过滤条件进行过滤。如 select a, b, c from t1 limit 10000, 20; 优化为: select a, b, c from t1 where id > 10000 limit 20;

    2.2.2 多表连接

    1. 【强制】禁止跨 DB 的 join 语句。因为这样可以减少模块间耦合,为数据库拆分奠定坚实基础。
    2. 【强制】禁止在业务的更新类 SQL 语句中使用 join,比如 update t1 join t2 …
    3. 【建议】不建议使用子查询,建议将子查询 SQL 拆开结合程序多次查询,或使用 join 来代替子查询。
    4. 【建议】线上环境,多表 join 不要超过 3 个表。
    5. 【建议】多表连接查询推荐使用别名,且 select 列表中要用别名引用字段,数据库.表格式,如 select a from db1.table1 alias1 where …
    6. 【建议】在多表 join 中,尽量选取结果集较小的表作为驱动表,来 join 其它表。

    2.2.3 事务

    1. 【建议】事务中 insert|update|delete|replace 语句操作的行数控制在 2000 以内,以及 where 子句中 in 列表的传参个数控制在 500 以内。
    2. 【建议】批量操作数据时,需要控制事务处理间隔时间,进行必要的 sleep,一般建议值 5-10 秒。
    3. 【建议】对于有 auto_increment 属性字段的表的插入操作,并发需要控制在 200 以内。
    4. 【强制】程序设计必须考虑“数据库事务隔离级别”带来的影响,包括脏读、不可重复读和幻读。线上建议事务隔离级别为 repeatable-read
    5. 【建议】事务里包含 SQL 不超过 5 个(支付业务除外)。因为过长的事务会导致锁数据较久,MySQL 内部缓存、连接消耗过多等雪崩问题。
    6. 【建议】事务里更新语句尽量基于主键或 unique key,如 update … where id = XX;,否则会产生间隙锁,内部扩大锁定范围,导致系统性能下降,产生死锁。
    7. 【建议】尽量把一些典型外部调用移出事务,如调用 Web Service,访问文件存储等,从而避免事务过长。
    8. 【建议】对于 MySQL 主从延迟严格敏感的 select 语句,请开启事务强制访问主库。

    2.2.4 排序和分组

    1. 【建议】减少使用 order by,和业务沟通能不排序就不排序,或将排序放到程序端去做。order bygroup bydistinct 这些语句较为耗费 CPU,数据库的 CPU 资源是极其宝贵的。
    2. 【建议】order bygroup bydistinct 这些 SQL 尽量利用索引直接检索出排序好的数据。如 where a = 1 order by 可以利用 key(a, b)
    3. 【建议】包含了 order bygroup bydistinct 这些查询的语句,where 条件过滤出来的结果集请保持在 1000 行以内,否则 SQL 会很慢。

    2.2.5 线上禁止使用的 SQL 语句

    1. 【强制】禁用 update|delete t1 … where a = XX limit XX; 这种带 limit 的更新语句。因为会导致主从不一致,导致数据错乱。建议加上 order by PK
    2. 【强制】禁止使用关联子查询,如 update t1 set … where name in(select name from user where …);,效率极其低下。
    3. 【强制】禁用 procedure、function、trigger、views、event、外键约束。因为他们消耗数据库资源,降低数据库实例可扩展性。推荐都在程序端实现。
    4. 【强制】禁用 insert into … on duplicate key update … 在高并发环境下,会造成主从不一致。
    5. 【强制】禁止联表更新语句,如 update t1, t2 where t1.id = t2.id …

    3. MySQL 使用约束及建议

    3.1. 关于性能的争论

    最佳实践通常是为了获取最佳性能,例如一个支付环境,每秒只需要 3000 个事务就够了,更看重一致性。
    所以对于性能,关建是要明确一下定位,然后再跟据自已的情况来判到底使用那些技术组合。
    读写分离:对于非特殊要求的业务可以考虑部分 SQL 或是全量读 SQL 进行读写分离操作,从而增加 DB 的处理能力。
    关于分库分表:分库分表属于已经在 DB 的设计上无路可走,已经达到了前所未有的业务压力下才去走的一个技能。
    通过常情况可以考虑优先进行硬件层面优化、SQL 简化两个方向的工作,最后再来考虑分库分表,减少业务的复杂度。
    建议

    简单的使用 MySQL;
    计算机在处理整数比较浮点数快 N 倍,慎用浮点数;
    尽量不要在DB里做运算,大的计算可以考虑中间件完成;
    数据库拆分中适合冗余;
    单库容量:SAS 盘 Raid 10 控制在 500G 左右,PCI-E 卡,可以控制在卡的大小 80% 左右。日志或是历史库除外。
    

    3.2. MySQL 特点

    MySQL 是单进程多线程,不像 Oracle 是多进程的;
    每个 MySQL 内部线程同时只能用到一个逻辑 CPU 线程;
    每个 SQL 同时只能用到一个逻辑 CPU 线程;
    无执行计划缓存(无类似 ORACLE 的 library cache),不过 MySQL 的执行计划解析比较轻量级,效率还不错,这方面不会是瓶颈;
    query cache 的更新需要持有全局 mutex,数据有任何更新都需要等待该 mutex 效率低,且整个表的 query cache 也会失效,因此强烈建议关闭 query cache
    没有 thread pool 时,如果有瞬间大量连接请求,性能会急剧下降。
    

    相关文章

      网友评论

          本文标题:MySQL 数据库设计规范

          本文链接:https://www.haomeiwen.com/subject/lgpyoltx.html