Redis 为什么这么快?

作者: Java高级架构狮 | 来源:发表于2019-01-03 13:21 被阅读2次

    1、简介和应用

    Redis是一个由ANSI C语言编写,性能优秀、支持网络、可持久化的K-K内存数据库,并提供多种语言的API。它常用的类型主要是 String、List、Hash、Set、ZSet 这5种。


    image.png

    Redis在互联网公司一般有以下应用:

    • String:缓存、限流、计数器、分布式锁、分布式Session
    • Hash:存储用户信息、用户主页访问量、组合查询
    • List:微博关注人时间轴列表、简单队列
    • Set:赞、踩、标签、好友关系
    • Zset:排行榜

    再比如电商在大促销时,会用一些特殊的设计来保证系统稳定,扣减库存可以考虑如下设计:


    image.png

    上图中,直接在Redis中扣减库存,记录日志后通过Worker同步到数据库,在设计同步Worker时需要考虑并发处理和重复处理的问题。

    通过上面的应用场景可以看出Redis是非常高效和稳定的,那Redis底层是如何实现的呢?

    2、Redis的对象redisObject

    当我们执行set hello world命令时,会有以下数据模型:


    image.png
    • dictEntry:Redis给每个key-value键值对分配一个dictEntry,里面有着key和val的指针,next指向下一个dictEntry形成链表,这个指针可以将多个哈希值相同的键值对链接在一起,由此来解决哈希冲突问题(链地址法)。
    • sds:键key“hello”是以SDS(简单动态字符串)存储,后面详细介绍。
    • redisObject:值val“world”存储在redisObject中。实际上,redis常用5中类型都是以redisObject来存储的;而redisObject中的type字段指明了Value对象的类型,ptr字段则指向对象所在的地址。

    redisObject对象非常重要,Redis对象的类型、内部编码、内存回收、共享对象等功能,都需要redisObject支持。这样设计的好处是,可以针对不同的使用场景,对5中常用类型设置多种不同的数据结构实现,从而优化对象在不同场景下的使用效率。

    无论是dictEntry对象,还是redisObject、SDS对象,都需要内存分配器(如jemalloc)分配内存进行存储。jemalloc作为Redis的默认内存分配器,在减小内存碎片方面做的相对比较好。

    比如jemalloc在64位系统中,将内存空间划分为小、大、巨大三个范围;每个范围内又划分了许多小的内存块单位;当Redis存储数据时,会选择大小最合适的内存块进行存储。

    前面说过,Redis每个对象由一个redisObject结构表示,它的ptr指针指向底层实现的数据结构,而数据结构由encoding属性决定。比如我们执行以下命令得到存储“hello”对应的编码:


    image.png

    redis所有的数据结构类型如下(重要,后面会用):


    image.png

    3、String

    字符串对象的底层实现可以是int、raw、embstr(上面的表对应有名称介绍)。embstr编码是通过调用一次内存分配函数来分配一块连续的空间,而raw需要调用两次。


    image.png

    int编码字符串对象和embstr编码字符串对象在一定条件下会转化为raw编码字符串对象。embstr:<=39字节的字符串。int:8个字节的长整型。raw:大于39个字节的字符串。

    简单动态字符串(SDS),这种结构更像C++的String或者Java的ArrayList<Character>,长度动态可变:

    struct sdshdr {
       // buf 中已占用空间的长度
       int len;
       // buf 中剩余可用空间的长度
       int free;
       // 数据空间
       char buf[]; // ’\0’空字符结尾
    
    };
    
    • get:sdsrange---O(n)
    • set:sdscpy—O(n)
    • create:sdsnew---O(1)
    • len:sdslen---O(1)

    常数复杂度获取字符串长度:因为SDS在len属性中记录了长度,所以获取一个SDS长度时间复杂度仅为O(1)。

    预空间分配:如果对一个SDS进行修改,分为一下两种情况:

    • SDS长度(len的值)小于1MB,那么程序将分配和len属性同样大小的未使用空间,这时free和len属性值相同。举个例子,SDS的len将变成15字节,则程序也会分配15字节的未使用空间,SDS的buf数组的实际长度变成15+15+1=31字节(额外一个字节用户保存空字符)。
    • SDS长度(len的值)大于等于1MB,程序会分配1MB的未使用空间。比如进行修改之后,SDS的len变成30MB,那么它的实际长度是30MB+1MB+1byte。

    惰性释放空间:当执行sdstrim(截取字符串)之后,SDS不会立马释放多出来的空间,如果下次再进行拼接字符串操作,且拼接的没有刚才释放的空间大,则那些未使用的空间就会排上用场。通过惰性释放空间避免了特定情况下操作字符串的内存重新分配操作。

    杜绝缓冲区溢出:使用C字符串的操作时,如果字符串长度增加(如strcat操作)而忘记重新分配内存,很容易造成缓冲区的溢出;而SDS由于记录了长度,相应的操作在可能造成缓冲区溢出时会自动重新分配内存,杜绝了缓冲区溢出。

    4、List
    List对象的底层实现是quicklist(快速列表,是ziplist 压缩列表 和linkedlist 双端链表 的组合)。Redis中的列表支持两端插入和弹出,并可以获得指定位置(或范围)的元素,可以充当数组、队列、栈等。

    typedef struct listNode {
        // 前置节点
       struct listNode *prev;
       // 后置节点
       struct listNode *next;
       // 节点的值
       void *value;
    } listNode;
    
    typedef struct list {
        // 表头节点
       listNode *head;
       // 表尾节点
       listNode *tail;
       // 节点值复制函数
       void *(*dup)(void *ptr);
       // 节点值释放函数
       void (*free)(void *ptr);
        // 节点值对比函数
       int (*match)(void *ptr, void *key);
        // 链表所包含的节点数量
       unsigned long len;
    } list;
    
    • rpush: listAddNodeHead ---O(1)
    • lpush: listAddNodeTail ---O(1)
    • push:listInsertNode ---O(1)
    • index : listIndex ---O(N)
    • pop:ListFirst/listLast ---O(1)
    • llen:listLength ---O(N)
    4.1 linkedlist(双端链表)

    此结构比较像Java的LinkedList,有兴趣可以阅读一下源码。


    image.png

    从图中可以看出Redis的linkedlist双端链表有以下特性:节点带有prev、next指针、head指针和tail指针,获取前置节点、后置节点、表头节点和表尾节点的复杂度都是O(1)。len属性获取节点数量也为O(1)。

    与双端链表相比,压缩列表可以节省内存空间,但是进行修改或增删操作时,复杂度较高;因此当节点数量较少时,可以使用压缩列表;但是节点数量多时,还是使用双端链表划算。更多请在Java技术栈微信公众号后台回复:redis。

    4.2 ziplist(压缩列表)

    当一个列表键只包含少量列表项,且是小整数值或长度比较短的字符串时,那么redis就使用ziplist(压缩列表)来做列表键的底层实现。


    image.png

    ziplist是Redis为了节约内存而开发的,是由一系列特殊编码的连续内存块(而不是像双端链表一样每个节点是指针)组成的顺序型数据结构;具体结构相对比较复杂,有兴趣读者可以看 Redis 哈希结构内存模型剖析。在新版本中list链表使用 quicklist 代替了 ziplist和 linkedlist:


    image.png
    quickList 是 zipList 和 linkedList 的混合体。它将 linkedList 按段切分,每一段使用 zipList 来紧凑存储,多个 zipList 之间使用双向指针串接起来。因为链表的附加空间相对太高,prev 和 next 指针就要占去 16 个字节 (64bit 系统的指针是 8 个字节),另外每个节点的内存都是单独分配,会加剧内存的碎片化,影响内存管理效率。推荐阅读:史上最全 50 道 Redis 面试题。
    image.png

    quicklist 默认的压缩深度是 0,也就是不压缩。为了支持快速的 push/pop 操作,quicklist 的首尾两个 ziplist 不压缩,此时深度就是 1。为了进一步节约空间,Redis 还会对 ziplist 进行压缩存储,使用 LZF 算法压缩。

    写在最后:

    看到这里,点了关注吧!
    点关注,不迷路,持续更新!!!
    如需Java架构资料,点关注,发简信给我即可,先到先得!

    相关文章

      网友评论

        本文标题:Redis 为什么这么快?

        本文链接:https://www.haomeiwen.com/subject/lbsfrqtx.html