美文网首页服务端开发实战架构设计python web
数据库分库分表(一)常见分布式主键ID生成策略

数据库分库分表(一)常见分布式主键ID生成策略

作者: DonneyYoung | 来源:发表于2016-08-08 16:46 被阅读5498次

主键生成策略

系统唯一ID是我们在设计一个系统的时候常常会遇见的问题,下面介绍一些常见的ID生成策略。

  • Sequence ID
  • UUID
  • GUID
  • COMB
  • Snowflake

最开始的自增ID为了实现分库分别的需求,会在自增的前提下,使用不同步长(例如DB1 生成1,4,7,10,DB2生成2,5,8,11,DB3生成3,6,9,12),但需要做数据库拓展时,极其麻烦。
  相比自增ID,UUID生成唯一主键更加方便(数据量非常大的情况下,存在重复的可能),但由于UUID的无序性,性能不如自增ID,字符串储存,储存空间大,查询效率低。
  COMB相对于UUID,增加了生成ID的有序性,插入与查询效率都有所提高。见Integer GUID和Comb做主键的效率测试(Delphi+access)(三)
  Sonwflake是Twitter主键生成策略,可以看做是COMB的一种改进,用64位的长整型代替128位的字符串。ID构成:第一位0 + 41位的时间前缀 + 10位的节点标识 + 12位的sequence避免并发的数字。见Twitter-Snowflake(64位分布式ID算法)分析与JAVA实现

1. Sequence ID

数据库自增长序列或字段,最常见的方式。由数据库维护,数据库唯一。

优点:

  1. 简单,代码方便,性能可以接受。
  2. 数字ID天然排序,对分页或者需要排序的结果很有帮助。

缺点:

  1. 不同数据库语法和实现不同,数据库迁移的时候或多数据库版本支持的时候需要处理。
  2. 在单个数据库或读写分离或一主多从的情况下,只有一个主库可以生成。有单点故障的风险。
  3. 在性能达不到要求的情况下,比较难于扩展。
  4. 如果遇见多个系统需要合并或者涉及到数据迁移会相当痛苦。
  5. 分表分库的时候会有麻烦。

优化方案:

  1. 针对主库单点,如果有多个Master库,则每个Master库设置的起始数字不一样,步长一样,可以是Master的个数。
    比如:Master1 生成的是 1,4,7,10,Master2生成的是2,5,8,11 Master3生成的是 3,6,9,12。这样就可以有效生成集群中的唯一ID,也可以大大降低ID生成数据库操作的负载。

2. UUID

常见的方式,128位。可以利用数据库也可以利用程序生成,一般来说全球唯一。

优点:

  1. 简单,代码方便。
  2. 全球唯一,在遇见数据迁移,系统数据合并,或者数据库变更等情况下,可以从容应对。

缺点:

  1. 没有排序,无法保证趋势递增。
  2. UUID往往是使用字符串存储,查询的效率比较低。
  3. 存储空间比较大,如果是海量数据库,就需要考虑存储量的问题。
  4. 传输数据量大
  5. 不可读。

优化方案:

  1. 为了解决UUID不可读,可以使用UUID to Int64的方法。

3. GUID

GUID:是微软对UUID这个标准的实现。UUID还有其它各种实现,不止GUID一种。优缺点同UUID。

4. COMB

COMB(combine)型是数据库特有的一种设计思想,可以理解为一种改进的GUID,它通过组合GUID和系统时间,以使其在索引和检索事有更优的性能。
  数据库中没有COMB类型,它是Jimmy Nilsson在他的“The Cost of GUIDs as Primary Keys”一文中设计出来的。
  COMB数据类型的基本设计思路是这样的:既然UniqueIdentifier数据因毫无规律可言造成索引效率低下,影响了系统的性能,那么我们能不能通过组合的方式,保留UniqueIdentifier的前10个字节,用后6个字节表示GUID生成的时间(DateTime),这样我们将时间信息与UniqueIdentifier组合起来,在保留UniqueIdentifier的唯一性的同时增加了有序性,以此来提高索引效率。

优点:

  1. 解决UUID无序的问题,在其主键生成方式中提供了Comb算法(combined guid/timestamp)。保留GUID的10个字节,用另6个字节表示GUID生成的时间(DateTime)。
  2. 性能优于UUID。

5. Twitter的snowflake算法

snowflake是Twitter开源的分布式ID生成算法,结果是一个long型的ID。其核心思想是:使用41bit作为毫秒数,10bit作为机器的ID(5个bit是数据中心,5个bit的机器ID),12bit作为毫秒内的流水号(意味着每个节点在每毫秒可以产生 4096 个 ID),最后还有一个符号位,永远是0。snowflake算法可以根据自身项目的需要进行一定的修改。比如估算未来的数据中心个数,每个数据中心的机器数以及统一毫秒可以能的并发数来调整在算法中所需要的bit数。

优点:

  1. 不依赖于数据库,灵活方便,且性能优于数据库。
  2. ID按照时间在单机上是递增的。

缺点:

  1. 在单机上是递增的,但是由于涉及到分布式环境,每台机器上的时钟不可能完全同步,也许有时候也会出现不是全局递增的情况。

参考:

  1. 分布式系统唯一ID生成方案汇总
  2. UUID 、GUID、COMB 的区别与联系
  3. UUID 和 GUID 的区别
  4. The Cost of GUIDs as Primary Keys
  5. Integer GUID和Comb做主键的效率测试(Delphi+access)(三)
  6. Twitter-Snowflake项目地址(Tags:snowflake-2010)
  7. 如何在高并发分布式系统中生成全局唯一Id
  8. Twitter-Snowflake(64位分布式ID算法)分析与JAVA实现

转载注明出处,我就不和你计较。
by Donney Young
http://www.jianshu.com/p/a0a3aa888a49

相关文章

  • 随身学 - 分库分表总结

    参考文章 数据库分库分表(一)常见分布式主键ID生成策略 高并发网站如何解决数据库主键自增的时候出现重复? 其实大...

  • 如何保证 ID 的全局唯一性?

    如何保证 ID 的全局唯一性? 分库分表之后如何生成全局唯一的数据库主键呢? 数据库中的主键如何选择? 数据库中的...

  • 雪花算法(Snowflake)顺序ID

    分库分表场景下如何选择主键 数据库本身有自己的自增id,但在分库分表场景下,则无法保证主键的唯一,这时就需要可以替...

  • 数据库分库分表(一)常见分布式主键ID生成策略

    主键生成策略 系统唯一ID是我们在设计一个系统的时候常常会遇见的问题,下面介绍一些常见的ID生成策略。 Seque...

  • 分布式唯一ID取号方案

    对于分布式的系统而言,如何生成一个唯一的ID是基本的。比如分库分表时各个表的主键ID必须唯一,并且必须是递增的。还...

  • 分库分表后全局唯一ID的四种生成策略对比

    分库分表之后,ID主键如何处理? 当业务量大的时候,数据库中数据量过大,就要进行分库分表了,那么分库分表之后,必然...

  • 生成分布式序列ID

    生成分布式序列ID 介绍 在很多分布式系统中,需要生成唯一的id。如在分库分表的情况下,给某个逻辑表生成唯一id。...

  • Mysql的分库分表,水平拆分-垂直拆分

    参考文章MySQL分库分表总结参考数据库分库分表策略,如何分库,如何分表?MySQL分库分表原理 MySQL单库数...

  • 分布式全局唯一ID

    在很多中小项目中,我们往往直接使用数据库自增特性来生成主键ID,这样确实比较简单。而在分库分表的环境中,数据分布在...

  • mysql历史数据增加雪花算法记录

    最近有个需求: 对分库分表的历史数据增加一个ID 这个ID不能是自增的主键ID 因为是分库分表 ,自增ID容易重复...

网友评论

本文标题:数据库分库分表(一)常见分布式主键ID生成策略

本文链接:https://www.haomeiwen.com/subject/ielrsttx.html