美文网首页基础原理程序员
线上Redis禁止使用Keys正则匹配操作

线上Redis禁止使用Keys正则匹配操作

作者: 赵客缦胡缨v吴钩霜雪明 | 来源:发表于2019-04-04 17:17 被阅读165次

转载至微信公众号:【架构师小秘圈】 作者:孤独烟,资深后端工程师,业内知名原创作者

一个新闻

新闻内容如下:
PHP工程师执行redis keys \* 导致数据库宕机

某公司技术部发生2起本年度PO级特大事故,造成公司资金损失400万,原因如下:

由于PHP工程师直接操作上线redis,执行

keys * wxdb(此处省略)cf8*

这样的命令,导致redis锁住,从而导致CPU飙升,引起所有支付链路卡住,等十几秒结束后,所有的请求流量全部挤压到了rds数据库中,使数据库产生了雪崩效应,发生了数据库宕机事件。

该公司表示,如再犯类似事故,将直接开除,并表示之后会逐步收回运维部各项权限。

正文

一条铁律

在业内,redis开发规范中有一条铁律如下所示

线上Redis禁止使用Keys正则匹配操作

然而大家都知道,却一直忘记,所以事故会不断的发生。
下面讲一讲在线上执行正则匹配操作,引起缓存雪崩,最终数据库宕机的原因。

分析原因

OK,先说两句废话

1、redis是单线程的,其所有操作都是原子的,不会因并发产生数据异常

2、使用高耗时的Redis命令是很危险的,会占用唯一的一个线程的大量处理时间,导致所有的请求都被拖慢。(例如时间复杂度为O(N)的KEYS命令,严格禁止在生产环境中使用)

有上面两句作铺垫,原因就显而易见了。

  • (1)运维人员进行keys *操作,该操作比较耗时,又因为redis是单线程的,所以redis被锁住。
  • (2)此时QPS比较高,又来了几万个对redis的读写请求,因为redis被锁住,所以全部Hang在那。
  • (3)因为太多线程Hang在那,CPU严重飙升,造成redis所在的服务器宕机
  • (4)所有的线程在redis那取不到数据,一瞬间全去数据库取数据,数据库就宕机了。

需要注意的是,同样危险的命令不仅有keys *,还有以下几组

Flushdb 命令用于清空当前数据库中的所有 key

Flushall 命令用于清空整个 Redis 服务器的数据(删除所有数据库的所有 key )

CONFIG 客户端连接后可配置服务器

因此,一个合格的redis运维或者开发,应该懂得如何禁用上面的命令。所以我一直觉得出现新闻中那种情况的原因,一般是人员的水平问题。

怎么禁用这些命令呢?
就是在redis.conf中,在SECURITY这一项中,我们新增以下命令:

rename-command FLUSHALL ""
rename-command FLUSHDB  ""
rename-command CONFIG   ""
rename-command KEYS     ""

另外,对于FLUSHALL命令,需要设置配置文件中appendonly no,否则服务器是无法启动

注意了,上面的这些命令可能有遗漏,大家可以查官方文档。除了Flushdb这类和redis安全隐患有关的命令意外,但凡发现时间复杂度为O(N)的命令,都要慎重,不要在生产上随便使用。例如hgetalllrangesmemberszrangesinter等命令,它们并非不能使用,但这些命令的时间复杂度都为O(N),使用这些命令需要明确N的值,否则也会出现缓存宕机。

改良建议

业内建议使用scan命令来改良keysSMEMBERS命令

redis2.8版本以后有了一个新命令scan,可以用来分批次扫描redis记录,这样肯定会导致整个查询消耗的总时间变大,但不会影响redis服务卡顿,影响服务使用。

具体使用,大家可以参考这份文档http://doc.redisfans.com/key/scan.html

相关文章

  • 线上Redis禁止使用Keys正则匹配操作

    转载至微信公众号:【架构师小秘圈】 作者:孤独烟,资深后端工程师,业内知名原创作者 一个新闻 新闻内容如下:PHP...

  • Laravel redis 正则匹配keys

    有时候redis 需要正则匹配到相应的keys, 然后获取keys列表通用使用command 命令执行keys命令...

  • redisTemplate使用scan模糊匹配key

    为什么不直接用keys 使用keys *进行模糊匹配引发Redis锁(因为redis单线程,keys会阻塞),造成...

  • Redis 常用命令-上

    redis 键操作 keys key-pattern:返回匹配的 key 列表,比如:keys foo* 表示查找...

  • Redis常用命令整理

    Redis常用命令整理 doc 环境下使用命令: keys 命令 ? 匹配一个字符 * 匹配任...

  • Redis之——常用命令集合

    全局操作: 查看所有key keys * 或 keys "*" 查看匹配前缀的keys keys "miao"...

  • redis数据类型常用命令

    1.Redis 键(key) keys * 查看当前库所有key (匹配:keys *1)。 exists k...

  • 批量删除key

    使用xargs命令 -n使用那个库, redis 默认有16个库 -a密码 pattern正则匹配key

  • Redis 使用Scan迭代keys

    使用需求: 对大批量keys进行操作会阻塞Redis,导致Redis无法正常提供服务,所以一般使用Scan迭代进行...

  • redis-scan命令

    redis-scan命令 介绍&场景 redis中找到以某某开头的key对这些key进行操作。 问题 使用keys...

网友评论

    本文标题:线上Redis禁止使用Keys正则匹配操作

    本文链接:https://www.haomeiwen.com/subject/mdrqiqtx.html