美文网首页
11.RDB持久化

11.RDB持久化

作者: xMustang | 来源:发表于2020-02-23 15:27 被阅读0次

RDB持久化

将Redis服务器中的非空数据库以及它们的键值对统称为数据库状态。

Redis提供了RDB持久化功能,这个功能可以将Redis在内存中的数据库状态保存到磁盘里面,避免数据意外丢失。

RDB持久化既可以手动执行,也可以根据服务器配置选项定期执行,可以将某个时间点上的数据库状态保存到一个RDB文件中。RDB文件是一个经过压缩的二进制文件。

1. RDB文件的创建与载入

SAVE、BGSAVE:生成RDB文件。

SAVE会阻塞Redis服务器进程,直到RDB文件创建完毕,在服务器进程阻塞期间,服务器不能处理任何命令请求。

BGSAVE会派生一个子进程,然后由子进程负责创建RDB文件,服务器进程(父进程)继续处理命令请求。

创建RDB文件的实际工作由rdb.c/rdbSave完成。

RDB文件的载入工作是在服务器启动时自动执行的。只要Redis服务器在启动时检测到RDB文件存在,它就会自动载入RDB文件。

AOF文件的更新频率通常比RDB文件的更新频率高。如果服务器开启了AOF持久化功能,那么服务器会优先使用AOF来还原数据库状态。

下图是服务器载入文件时的判断流程。

服务器载入文件时的判断流程

载入RDB文件的实际工作由rdb.c/rdbLoad完成。

在BGSAVE命令执行时,保存工作由子进程完成。在BGSAVE命令执行期间,服务器在处理SAVE、BGSAVE、BGREWRITEAOF三个命令的执行方式会和平时不同:

  1. 在BGSAVE命令执行期间,SAVE命令会被拒绝,是为了避免父进程、子进程同时执行两个rdbSave调用,防止产生竞争条件。

  2. 在BGSAVE命令执行期间,再执行BGSAVE命令会被拒绝,是为了避免同时执行两个BGSAVE命令产生竞争条件。

  3. BGSAVE、BGREWRITEAOF两个命令不能同时执行:

    • 如果BGSAVE正在执行,那么接下来的BGREWRITEAOF命令会被延迟到BGSAVE执行完之后执行。
    • 如果BGREWRITEAOF正在执行,那么接下来的BGSAVE命令会直接被拒绝。

    BGSAVE、BGREWRITEAOF两个命令实际工作由子进程执行,这两个命令在操作方面没有什么冲突,不能同时执行只是一个性能方面的考虑。

服务器在载入RDB文件期间,会一直处于阻塞状态,直到载入工作完成为止。

2. 自动间隔性保存

BGSAVE可以在不阻塞服务器的情况下执行,所以Redis允许用户设置服务器配置的save选项,让服务器每隔一段时间自动执行一次BGSAVE命令。

save 900 1

表示服务器在900秒之内,对数据库进行了至少1次修改,BGSAVE命令会被执行。

2.1 设置保存条件

在Redis服务器启动时,用户可以指定配置文件或者传入启动参数设置save选项。

默认情况下,save为

save 900 1
save 300 10
save 60 10000

服务器会根据save选项值,设置服务器状态redisServer结构中的saveparams属性:

struct redisServer{

    // ...

    // 记录了保存条件的数组
    struct saveparam *saveparams;

    // ...
};

saveparams数组中的每个元素都是一个saveparam结构。

struct saveparam{
    // 秒数
    time_t seconds;

    // 修改数
    int changes;
}

下图是服务器状态中的保存条件示例。

服务器状态中的保存条件

2.2 dirty计数器、lastsave属性

dirty计数器记录距离上一次成功执行SAVE、BGSAVE命令后,服务器对数据库状态(服务器中所有数据库)进行了多少次修改(包括写入、删除、修改等操作)。

lastsave属性是一个UNIX时间戳,记录服务器上一次成功执行SAVE、BGSAVE命令的时间。

struct redisServer{

    // ...
    // 修改计数器
    long long dirty;

    // 上一次执行保存的时间
    time_t lastsave;
}

2.3 检查保存条件是否满足

Redis服务器周期性操作函数serverCron默认每隔100ms执行一次。

serverCron用于对正在运行的服务器进行维护,它的其中一项工作就是检查save选项所设置的保存时间是否满足。如果满足的话,就执行BGSAVE命令。

3. RDB文件结构

RDB保存的是二进制数据,下图是RDB文件结构。

RDB文件结构

上图中,用全大写单词标识常量,用全小写单词标识变量和数据。

开头是"REDIS"五个字符,程序在载入文件时,可以通过快速检查所载入的文件是否为RDB文件。

db_version长度是4字节,值是一个字符串表示的整数,记录了RDB文件的版本号。

databases包含0个或任意多个数据库,以及各个数据库中的键值对数据。如果服务器的数据库状态为空(所有数据库都是空的),那么这个部分也为空,长度为0字节。

EOF常量的长度为1字节,这个常量标志着RDB文件正文内容的结束。当读入程序遇到这个值时,它知道所有数据库的所有键值对都已经加载完毕。

check_sum是一个8字节长的无符号整数,保存着一个校验和,这个校验和是程序通过对REDIS、db_version、databases、EOF四个部分的内容计算得出。服务器在载入RDB文件时,会将载入数据所计算出的校验和check_sum所记录的校验和进行对比,依次来检查RDB文件是否有出错或者损坏的情况出现。

3.1 databases部分

一个RDB文件的databases部分可以保存任意多个非空数据库。

如下图是带有两个非空数据库的RDB文件示例。

带有两个非空数据库的RDB文件示例

其中,database 0代表0号数据库中所有键值对数据。

每个非空数据库在RDB文件中都可以保存为SELECTDB、db_number、key_value_pairs三个部分,如下图所示。

RDB文件中的数据库结构
  1. SELECTDB常量的长度为1字节,当读入程序读到这个值时,它知道接下来要读入的将是一个数据库号码。
  2. db_number保存着一个数据库号码。根据号码的大小不同,这个部分的长度可以是1、2、5字节。当程序读入db_number之后,服务器会调用SELECT命令,根据读入的数据库号码进行数据库切换,使得之后读入的键值对可以载入到正确的数据库中。
  3. key_value_pairs部分保存了数据库中所有的键值对数据,如果键值对带有过期时间,那么过期时间也会和键值对保存在一起。

3.1.1 key_value_pairs部分

不带过期时间的键值对在RDB文件中由TYPE、key、value三部分组成。如下图所示。

不带过期时间的键值对

TYPE记录了value的类型,长度为1字节,值可以是以下常量中的一个:

  • REDIS_RDB_TYPE_STRING
  • REDIS_RDB_TYPE_LIST
  • REDIS_RDB_TYPE_SET
  • REDIS_RDB_TYPE_ZSET
  • REDIS_RDB_TYPE_LIST_ZIPLIST
  • REDIS_RDB_TYPE_ZSET_ZIPLIST
  • REDIS_RDB_TYPE_HASH_ZIPLIST
  • REDIS_RDB_TYPE_SET_INTSET

以上列出的每个TYPE常量都代表了一种对象类型或底层编码,当服务器读入RDB文件中的键值对数据时,程序会根据TYPE值来决定如何读入和解释value的数据。

key总是一个字符串对象。

带有过期时间的键值对如下图所示。

带有过期时间的键值对
  1. EXPIRETIME_MS常量的长度为1字节,它告诉程序,接下来要读入的将是一个以毫秒为单位的过期时间。
  2. ms是一个8字节长的带符号整数,记录着一个以毫秒为单位的UNIX时间戳,就是键值对的过期时间。

3.1.1.1 value的编码

3.1.1.1.1 字符串对象

TYPE的值为REDIS_RDB_TYPE_STRING,字符串对象的编码可以是REDIS_ENCODING_INT、REDIS_ENCODING_RAW。

  1. 如果字符串对象的编码为REDIS_ENCODING_INT,那么对象中保存的是长度不超过32位的整数。

    这种编码的对象将以下图所示的结构保存。

    INT编码字符串对象的保存结构

    ENCODING可以是REDIS_RDB_ENC_INT8、REDIS_RDB_ENC_INT16、REDIS_RDB_ENC_INT32三个常量中的一个,分别代表8、16、32位来保存整数integer。

  2. 如果字符串对象的编码为REDIS_ENCODING_RAW,那么对象中保存的是一个字符串的值,根据字符串值的不同,有压缩、不压缩两种方法来保存字符串:字符串长度超过20字节,会被压缩保存,否则原样保存。

    只有在服务器打开RDB文件压缩功能,才会对字符串进行压缩;否则RDB总以无压缩方式保存字符串。

    对于没有被压缩的字符串,RDB程序会以下图所示的结构来保存字符串。string部分保存字符串值本身,len保存字符串值的长度。

    无压缩字符串的保存结构

    对于压缩后的字符串,RDB程序会以下图所示结构来保存字符串。REDIS_RDB_ENC_LZF标识字符串已经被LZF算法压缩过,compressed_len记录字符串被压缩后的长度,origin_len记录字符串原来的长度,compressed_string记录被压缩之后的字符串。

    压缩后字符串的保存结构
3.1.1.1.2 列表对象

TYPE的值为REDIS_RDB_TYPE_LIST,value保存的是一个REDIS_ENCODING_LINKEDLIST编码的列表对象。

下图是RDB保存这种对象的LINKEDLIST编码列表对象的保存结构。

LINKEDLIST编码列表对象的保存结构

list_length记录列表的长度。

item代表列表项,每个列表项都是一个字符串对象,程序会以处理字符串对象的方式来保存和读入列表项。

3.1.1.1.3 集合对象

TYPE的值为REDIS_RDB_TYPE_SET,value保存的就是一个REDIS_ENCODING_HT编码的集合对象。

下面是RDB保存这种对象的HT编码集合对象的保存结构。

HT编码集合对象的保存结构

set_size是集合的大小。

element代表集合元素,每个集合元素都是一个字符串对象,程序会以处理字符串对象的方式来保存和读入集合元素。

3.1.1.1.4 哈希表对象

TYPE值为REDIS_RDB_TYPE_HASH,value保存的就是一个REDIS_ENCODING_HT编码的集合对象。

下图是RDB保存这种对象的HT编码哈希表对象的保存结构。

HT编码哈希表对象的保存结构

hash_size记录了哈希表的大小。

key_value_pair代表哈希表中的键值对,键值对的键和值都是字符串对象,程序会以处理字符串对象的方式来保存和读入键值对。

3.1.1.1.5 有序集合对象

TYPE值为REDIS_RDB_TYPE_ZSET,value保存的是一个REDIS_ENCODING_SKIPLIST编码的有序集合对象。

下图是RDB保存这种对象的SKIPLIST编码有序集合对象的保存结构。

SKIPLIST编码有序集合对象的保存结构

sorted_set_size记录了有序集合的大小。

element代表有序集合中的元素,每个元素又分为成员(member)、分值(score)两部分,成员是一个字符串对象,分值是一个double类型的浮点数,程序在保存RDB文件时会先将分值转化为字符串对象,再用保存字符串对象的方法将分值保存。

3.1.1.1.6 INTSET编码的集合

TYPE值为REDIS_RDB_TYPE_SET_INTSET,value保存的就是一个整数集合对象。

RDB文件保存这种对象的方法是:先将整数集合转换成字符串对象,然后将这个字符串对象保存到RDB文件里面。

如果程序在读入RDB文件的过程中,碰到由整数集合对象转换成的字符串对象,那么程序会根据TYPE值的指示,先读入字符串对象,再将这个字符串对象转换成原来的整数集合对象。

3.1.1.1.7 ZIPLIST编码的列表、哈希表、有序集合

TYPE值为REDIS_RDB_TYPE_LIST_ZIPLIST、REDIS_RDB_TYPE_HASH_ZIPLIST、REDIS_RDB_TYPE_ZSET_ZIPLIST,value保存的就是一个压缩列表对象。

RDB文件保存这种对象的方法是:将压缩列表转换成一个字符串对象,将转换所得的字符串对象保存到RDB文件中。

如果程序在读入RDB文件的过程中,碰到由压缩列表对象转换成的字符串对象,那么程序会根据TYPE值的指示,执行以下操作:

  1. 读入字符串对象,并将它转换成原来的压缩列表对象。
  2. 根据TYPE的值,设置压缩列表对象的类型:如果TYPE的值为REDIS_RDB_TYPE_LIST_ZIPLIST,那么压缩列表对象的类型为列表;如果TYPE的值为REDIS_RDB_TYPE_HASH_ZIPLIST,那么压缩列表对象的类型为哈希表;如果TYPE的值为REDIS_RDB_TYPE_ZSET_ZIPLIST,那么压缩列表对象的类型为有序集合。

相关文章

  • 11.RDB持久化

    RDB持久化 将Redis服务器中的非空数据库以及它们的键值对统称为数据库状态。 Redis提供了RDB持久化功能...

  • Redis--(持久化,用户认证,禁用或重命名危险命令)

    01,持久化 1.RDB持久化和AOF持久化 2.RDB持久化流程图 3.配置RDB持久化 4.RDB持久化结论:...

  • 03-redis持久化

    Redis持久化 两种方式持久化: RDB持久化 - 全量 AOF持久化 - 增量 RDB持久化 RDB文件的生成...

  • RabbitMQ 消息持久化机制(消息不丢) --- 2022-

    RabbitMQ持久化机制分为队列持久化、消息持久化、交换器持久化。不管是持久化的消息还是非持久化的消息都可以被写...

  • Docker学习(13) 卷与持久化数据

    Docker学习(13) 卷与持久化数据 卷与持久化数据——简介 数据主要分为两种:持久化和非持久化。 持久化:就...

  • 6 保证消息不丢失

    1 消息持久化 1.1 exchange持久化 1.2 queue持久化 1.3 消息持久化 2 消费者ACK确...

  • iOS持久化方式有哪些

    首先这里的持久化指的是数据持久化,目前客户端的持久化也只有这一个含义。为何要持久化:iOS开发可以没有持久化,持久...

  • redis持久化-补充redis5.0 集群露点

    redis持久化策略 1.rdb 持久化 (默认持久化方式)其默认持久化策略 save 900 1 表示red...

  • 持久化

        rabbitmq的持久化分成三个部分:交换器的持久化、队列的持久化和消息的持久化     交换器的持久化是...

  • 【code_hyy_基础】iOS持久化方式

    首先这里的持久化指的是数据持久化,目前客户端的持久化也只有这一个含义。 为何要持久化: iOS开发可以没有持久化,...

网友评论

      本文标题:11.RDB持久化

      本文链接:https://www.haomeiwen.com/subject/qtpjqhtx.html