美文网首页.Net微说集待整理.Net Core微说集
Redis单线程?别逗了,Redis6.0多线程重磅来袭!

Redis单线程?别逗了,Redis6.0多线程重磅来袭!

作者: 大数据技术与架构 | 来源:发表于2019-08-17 21:23 被阅读452次

2019年的 RedisConf 比以往时候来的更早一些,今年会议时间是4月1-3号,仍然是在旧金山鱼人码头Pier 27。恰逢今年是 Redis 第10周年,规模也比以往大一些,注册人数超过1600人,总共有80个议题,除了RedisLabs外还有很多云厂商和Redis用户带来分享。Redis 作者 antirez 在 RedisConf 2019 做了分享,其中一段展示了 Redis 6 引入的多线程 IO 特性对性能提升至少是一倍以上。

无独有偶,在之前 antirez 的博客上,我们已经提前知道了这个消息:

多线程实现

目前对于单线程 Redis 来说,性能瓶颈主要在于网络的 IO 消耗, 优化主要有两个方向:

  • 提高网络 IO 性能,典型的实现像使用 DPDK 来替代内核网络栈的方式

  • 使用多线程充分利用多核,典型的实现像 Memcached

  • 多线程特性在社区也被反复提了很久后,Redis作者antirez终于在 Redis 6 加入多线程。

    因为读写网络的read/write系统调用在Redis执行期间占用了大部分CPU时间,如果把网络读写做成多线程的方式对性能会有很大提升。现在已经实现了第一版,write side即回复客户端这部分已经完成了,并且去掉了主线程和IO线程之间的互斥锁,采用busy loop的形式来等待io线程工作结束,这部分能够有50%的性能提升,架构图如下:

    Redis 的多线程部分只是用来处理网络数据的读写和协议解析,执行命令仍然是单线程。之所以这么设计是不想 Redis 因为多线程而变得复杂,需要去控制 key、lua、事务,LPUSH/LPOP 等等的并发问题。

    多线程 IO 的读(请求)和写(响应)在实现流程是一样的,只是执行读还是写操作的差异。同时这些 IO 线程在同一时刻全部是读或者写,不会部分读或部分写的情况,所以下面以读流程作为例子。分析过程中只会覆盖核心逻辑而不是全部细节。如果想完全理解细节,建议看完之后再次看一次源码实现。

    加入多线程 IO 之后,整体的读流程如下:

  • 主线程负责接收建连请求,读事件到来(收到请求)则放到一个全局等待读处理队列

  • 主线程处理完读事件之后,通过 RR(Round Robin) 将这些连接分配给这些 IO 线程,然后主线程忙等待(spinlock 的效果)状态

  • IO 线程将请求数据读取并解析完成(这里只是读数据和解析并不执行)

  • 主线程执行所有命令并清空整个请求等待读处理队列(执行部分串行)

  • 上面的这个过程是完全无锁的,因为在 IO 线程处理的时主线程会等待全部的 IO 线程完成,所以不会出现data race的场景。

    性能对比

    压测配置:

    Redis Server: 阿里云 Ubuntu 18.04,8 CPU 2.5 GHZ, 8G 内存,主机型号 ecs.ic5.2xlargeRedis Benchmark Client: 阿里云 Ubuntu 18.04,8 2.5 GHZ CPU, 8G 内存,主机型号 ecs.ic5.2xlarge

    多线程 IO 版本刚合并到 unstable 分支一段时间,所以只能使用 unstable 分支来测试多线程 IO,单线程版本是 Redis 5.0.5。多线程 IO 版本需要新增以下配置:

    io-threads 4 # 开启 4 个 IO 线程io-threads-do-reads yes # 请求解析也是用 IO 线程

    压测命令:

    redis-benchmark -h 192.168.0.49 -a foobared -t set,get -n 1000000 -r 100000000 --threads 4 -d ${datasize} -c 256

    从上面可以看到 GET/SET 命令在 4 线程 IO 时性能相比单线程是几乎是翻倍了。另外,这些数据只是为了简单验证多线程 IO 是否真正带来性能优化,并没有针对严谨的延时控制和不同并发的场景进行压测。数据仅供验证参考而不能作为线上指标,且只是目前的 unstble分支的性能,不排除后续发布的正式版本的性能会更好。

    总结

    Redis 6.0 预计会在 2019 年底发布,将在性能、协议以及权限控制都会有很大的改进。antirez 今年全身心投入在优化 Redis 和集群的功能,特别值得期待。另外,今年年底社区也会同时发布第一个版本 redis cluster proxy 来解决多语言 SDK 兼容的问题,期待在具备 proxy 功能之后 cluster 能在国内有更加广泛的应用。

    — THE END —

    相关文章

    • Redis单线程?别逗了,Redis6.0多线程重磅来袭!

      2019年的 RedisConf 比以往时候来的更早一些,今年会议时间是4月1-3号,仍然是在旧金山鱼人码头Pie...

    • Redis 新特性6.0

      Redis6.0新版本在五月初重磅发布,我们可以清晰地发现Redis6.0新版本引入了多线程。相信大家一定都十分好...

    • Redis各版本特性

      Redis6.0 多线程IO Redis 6引入多线程IO,但多线程部分只是用来处理网络数据的读写和协议解析,执行...

    • Redis6 多线程

      1. Redis6.0之前的版本真的是单线程吗? Redis在处理客户端的请求时,包括获取 (socket 读)、...

    • 3:高性能IO模型:为什么单线程Redis能那么快?

      1:Redis单线程的概念? 2:Redis使用单线程和多线程对比? 3:Redis使用单线程为什么这么快? 4:...

    • Redis6.0多线程

      Redis Threaded IO Redis 6.0开始支持多线程,Redis分主线程和IO线程,IO线程只用于...

    • Redis(四) -- 性能分析

      单线程还是多线程 在很多时候我们能听到Redis是单进程单线程模型,但是实际上Redis的部分功能是多线程的,在重...

    • Redis 6.0 新特性-多线程连环13问!

      来自公众号:码大叔作者剑圣 导读:支持多线程的Redis6.0版本于2020-05-02终于发布了,为什么Redi...

    • Redis 6.0 新特性-多线程连环13问!

      来自公众号:码大叔作者:剑圣 导读:支持多线程的Redis6.0版本于2020-05-02终于发布了,为什么Red...

    • redis知识

      redis究竟是单线程还是多线程的? redsi不仅仅是单线程的,在6.0之后启动是多线程的, 为什么是多线程的呢...

    网友评论

      本文标题:Redis单线程?别逗了,Redis6.0多线程重磅来袭!

      本文链接:https://www.haomeiwen.com/subject/tozksctx.html