RDB持久化
将Redis服务器中的非空数据库以及它们的键值对统称为数据库状态。
Redis提供了RDB持久化功能,这个功能可以将Redis在内存中的数据库状态保存到磁盘里面,避免数据意外丢失。
RDB持久化既可以手动执行,也可以根据服务器配置选项定期执行,可以将某个时间点上的数据库状态保存到一个RDB文件中。RDB文件是一个经过压缩的二进制文件。
1. RDB文件的创建与载入
SAVE、BGSAVE:生成RDB文件。
SAVE会阻塞Redis服务器进程,直到RDB文件创建完毕,在服务器进程阻塞期间,服务器不能处理任何命令请求。
BGSAVE会派生一个子进程,然后由子进程负责创建RDB文件,服务器进程(父进程)继续处理命令请求。
创建RDB文件的实际工作由rdb.c/rdbSave完成。
RDB文件的载入工作是在服务器启动时自动执行的。只要Redis服务器在启动时检测到RDB文件存在,它就会自动载入RDB文件。
AOF文件的更新频率通常比RDB文件的更新频率高。如果服务器开启了AOF持久化功能,那么服务器会优先使用AOF来还原数据库状态。
下图是服务器载入文件时的判断流程。
服务器载入文件时的判断流程载入RDB文件的实际工作由rdb.c/rdbLoad完成。
在BGSAVE命令执行时,保存工作由子进程完成。在BGSAVE命令执行期间,服务器在处理SAVE、BGSAVE、BGREWRITEAOF三个命令的执行方式会和平时不同:
-
在BGSAVE命令执行期间,SAVE命令会被拒绝,是为了避免父进程、子进程同时执行两个rdbSave调用,防止产生竞争条件。
-
在BGSAVE命令执行期间,再执行BGSAVE命令会被拒绝,是为了避免同时执行两个BGSAVE命令产生竞争条件。
-
BGSAVE、BGREWRITEAOF两个命令不能同时执行:
- 如果BGSAVE正在执行,那么接下来的BGREWRITEAOF命令会被延迟到BGSAVE执行完之后执行。
- 如果BGREWRITEAOF正在执行,那么接下来的BGSAVE命令会直接被拒绝。
BGSAVE、BGREWRITEAOF两个命令实际工作由子进程执行,这两个命令在操作方面没有什么冲突,不能同时执行只是一个性能方面的考虑。
服务器在载入RDB文件期间,会一直处于阻塞状态,直到载入工作完成为止。
2. 自动间隔性保存
BGSAVE可以在不阻塞服务器的情况下执行,所以Redis允许用户设置服务器配置的save选项,让服务器每隔一段时间自动执行一次BGSAVE命令。
save 900 1
表示服务器在900秒之内,对数据库进行了至少1次修改,BGSAVE命令会被执行。
2.1 设置保存条件
在Redis服务器启动时,用户可以指定配置文件或者传入启动参数设置save选项。
默认情况下,save为
save 900 1
save 300 10
save 60 10000
服务器会根据save选项值,设置服务器状态redisServer结构中的saveparams属性:
struct redisServer{
// ...
// 记录了保存条件的数组
struct saveparam *saveparams;
// ...
};
saveparams数组中的每个元素都是一个saveparam结构。
struct saveparam{
// 秒数
time_t seconds;
// 修改数
int changes;
}
下图是服务器状态中的保存条件示例。
服务器状态中的保存条件2.2 dirty计数器、lastsave属性
dirty计数器记录距离上一次成功执行SAVE、BGSAVE命令后,服务器对数据库状态(服务器中所有数据库)进行了多少次修改(包括写入、删除、修改等操作)。
lastsave属性是一个UNIX时间戳,记录服务器上一次成功执行SAVE、BGSAVE命令的时间。
struct redisServer{
// ...
// 修改计数器
long long dirty;
// 上一次执行保存的时间
time_t lastsave;
}
2.3 检查保存条件是否满足
Redis服务器周期性操作函数serverCron默认每隔100ms执行一次。
serverCron用于对正在运行的服务器进行维护,它的其中一项工作就是检查save选项所设置的保存时间是否满足。如果满足的话,就执行BGSAVE命令。
3. RDB文件结构
RDB保存的是二进制数据,下图是RDB文件结构。
RDB文件结构上图中,用全大写单词标识常量,用全小写单词标识变量和数据。
开头是"REDIS"五个字符,程序在载入文件时,可以通过快速检查所载入的文件是否为RDB文件。
db_version长度是4字节,值是一个字符串表示的整数,记录了RDB文件的版本号。
databases包含0个或任意多个数据库,以及各个数据库中的键值对数据。如果服务器的数据库状态为空(所有数据库都是空的),那么这个部分也为空,长度为0字节。
EOF常量的长度为1字节,这个常量标志着RDB文件正文内容的结束。当读入程序遇到这个值时,它知道所有数据库的所有键值对都已经加载完毕。
check_sum是一个8字节长的无符号整数,保存着一个校验和,这个校验和是程序通过对REDIS、db_version、databases、EOF四个部分的内容计算得出。服务器在载入RDB文件时,会将载入数据所计算出的校验和check_sum所记录的校验和进行对比,依次来检查RDB文件是否有出错或者损坏的情况出现。
3.1 databases部分
一个RDB文件的databases部分可以保存任意多个非空数据库。
如下图是带有两个非空数据库的RDB文件示例。
带有两个非空数据库的RDB文件示例其中,database 0代表0号数据库中所有键值对数据。
每个非空数据库在RDB文件中都可以保存为SELECTDB、db_number、key_value_pairs三个部分,如下图所示。
RDB文件中的数据库结构- SELECTDB常量的长度为1字节,当读入程序读到这个值时,它知道接下来要读入的将是一个数据库号码。
- db_number保存着一个数据库号码。根据号码的大小不同,这个部分的长度可以是1、2、5字节。当程序读入db_number之后,服务器会调用SELECT命令,根据读入的数据库号码进行数据库切换,使得之后读入的键值对可以载入到正确的数据库中。
- key_value_pairs部分保存了数据库中所有的键值对数据,如果键值对带有过期时间,那么过期时间也会和键值对保存在一起。
3.1.1 key_value_pairs部分
不带过期时间的键值对在RDB文件中由TYPE、key、value三部分组成。如下图所示。
不带过期时间的键值对TYPE记录了value的类型,长度为1字节,值可以是以下常量中的一个:
- REDIS_RDB_TYPE_STRING
- REDIS_RDB_TYPE_LIST
- REDIS_RDB_TYPE_SET
- REDIS_RDB_TYPE_ZSET
- REDIS_RDB_TYPE_LIST_ZIPLIST
- REDIS_RDB_TYPE_ZSET_ZIPLIST
- REDIS_RDB_TYPE_HASH_ZIPLIST
- REDIS_RDB_TYPE_SET_INTSET
以上列出的每个TYPE常量都代表了一种对象类型或底层编码,当服务器读入RDB文件中的键值对数据时,程序会根据TYPE值来决定如何读入和解释value的数据。
key总是一个字符串对象。
带有过期时间的键值对如下图所示。
带有过期时间的键值对- EXPIRETIME_MS常量的长度为1字节,它告诉程序,接下来要读入的将是一个以毫秒为单位的过期时间。
- ms是一个8字节长的带符号整数,记录着一个以毫秒为单位的UNIX时间戳,就是键值对的过期时间。
3.1.1.1 value的编码
3.1.1.1.1 字符串对象
TYPE的值为REDIS_RDB_TYPE_STRING,字符串对象的编码可以是REDIS_ENCODING_INT、REDIS_ENCODING_RAW。
-
如果字符串对象的编码为REDIS_ENCODING_INT,那么对象中保存的是长度不超过32位的整数。
这种编码的对象将以下图所示的结构保存。
INT编码字符串对象的保存结构ENCODING可以是REDIS_RDB_ENC_INT8、REDIS_RDB_ENC_INT16、REDIS_RDB_ENC_INT32三个常量中的一个,分别代表8、16、32位来保存整数integer。
-
如果字符串对象的编码为REDIS_ENCODING_RAW,那么对象中保存的是一个字符串的值,根据字符串值的不同,有压缩、不压缩两种方法来保存字符串:字符串长度超过20字节,会被压缩保存,否则原样保存。
只有在服务器打开RDB文件压缩功能,才会对字符串进行压缩;否则RDB总以无压缩方式保存字符串。
对于没有被压缩的字符串,RDB程序会以下图所示的结构来保存字符串。string部分保存字符串值本身,len保存字符串值的长度。
无压缩字符串的保存结构对于压缩后的字符串,RDB程序会以下图所示结构来保存字符串。REDIS_RDB_ENC_LZF标识字符串已经被LZF算法压缩过,compressed_len记录字符串被压缩后的长度,origin_len记录字符串原来的长度,compressed_string记录被压缩之后的字符串。
压缩后字符串的保存结构
3.1.1.1.2 列表对象
TYPE的值为REDIS_RDB_TYPE_LIST,value保存的是一个REDIS_ENCODING_LINKEDLIST编码的列表对象。
下图是RDB保存这种对象的LINKEDLIST编码列表对象的保存结构。
LINKEDLIST编码列表对象的保存结构list_length记录列表的长度。
item代表列表项,每个列表项都是一个字符串对象,程序会以处理字符串对象的方式来保存和读入列表项。
3.1.1.1.3 集合对象
TYPE的值为REDIS_RDB_TYPE_SET,value保存的就是一个REDIS_ENCODING_HT编码的集合对象。
下面是RDB保存这种对象的HT编码集合对象的保存结构。
HT编码集合对象的保存结构set_size是集合的大小。
element代表集合元素,每个集合元素都是一个字符串对象,程序会以处理字符串对象的方式来保存和读入集合元素。
3.1.1.1.4 哈希表对象
TYPE值为REDIS_RDB_TYPE_HASH,value保存的就是一个REDIS_ENCODING_HT编码的集合对象。
下图是RDB保存这种对象的HT编码哈希表对象的保存结构。
HT编码哈希表对象的保存结构hash_size记录了哈希表的大小。
key_value_pair代表哈希表中的键值对,键值对的键和值都是字符串对象,程序会以处理字符串对象的方式来保存和读入键值对。
3.1.1.1.5 有序集合对象
TYPE值为REDIS_RDB_TYPE_ZSET,value保存的是一个REDIS_ENCODING_SKIPLIST编码的有序集合对象。
下图是RDB保存这种对象的SKIPLIST编码有序集合对象的保存结构。
SKIPLIST编码有序集合对象的保存结构sorted_set_size记录了有序集合的大小。
element代表有序集合中的元素,每个元素又分为成员(member)、分值(score)两部分,成员是一个字符串对象,分值是一个double类型的浮点数,程序在保存RDB文件时会先将分值转化为字符串对象,再用保存字符串对象的方法将分值保存。
3.1.1.1.6 INTSET编码的集合
TYPE值为REDIS_RDB_TYPE_SET_INTSET,value保存的就是一个整数集合对象。
RDB文件保存这种对象的方法是:先将整数集合转换成字符串对象,然后将这个字符串对象保存到RDB文件里面。
如果程序在读入RDB文件的过程中,碰到由整数集合对象转换成的字符串对象,那么程序会根据TYPE值的指示,先读入字符串对象,再将这个字符串对象转换成原来的整数集合对象。
3.1.1.1.7 ZIPLIST编码的列表、哈希表、有序集合
TYPE值为REDIS_RDB_TYPE_LIST_ZIPLIST、REDIS_RDB_TYPE_HASH_ZIPLIST、REDIS_RDB_TYPE_ZSET_ZIPLIST,value保存的就是一个压缩列表对象。
RDB文件保存这种对象的方法是:将压缩列表转换成一个字符串对象,将转换所得的字符串对象保存到RDB文件中。
如果程序在读入RDB文件的过程中,碰到由压缩列表对象转换成的字符串对象,那么程序会根据TYPE值的指示,执行以下操作:
- 读入字符串对象,并将它转换成原来的压缩列表对象。
- 根据TYPE的值,设置压缩列表对象的类型:如果TYPE的值为REDIS_RDB_TYPE_LIST_ZIPLIST,那么压缩列表对象的类型为列表;如果TYPE的值为REDIS_RDB_TYPE_HASH_ZIPLIST,那么压缩列表对象的类型为哈希表;如果TYPE的值为REDIS_RDB_TYPE_ZSET_ZIPLIST,那么压缩列表对象的类型为有序集合。
网友评论