美文网首页
3分钟整明白 缓存热点 是咋回事

3分钟整明白 缓存热点 是咋回事

作者: 万猫学社 | 来源:发表于2022-03-31 10:57 被阅读0次

    当数据库成为瓶颈时,比如高并发、读多写少等场景,我们首先会想到的就是利用缓存来提高整个系统的性能。

    缓存虽然能够大大提升整个系统的性能,但同时也引入了更多复杂性。

    如果没有针对缓存进行比较好的处理,某些场景下甚至会导致整个系统崩溃。

    这次我们要聊的就是:缓存热点

    缓存热点

    缓存热点是指大部分甚至所有的业务请求都命中同一份缓存数据。

    虽然缓存本身的性能比较高,但对于一些特别热点的数据,如果大部分甚至所有的请求都命中同一份缓存数据,则这份数据所在的缓存服务器的压力也会很大。

    比如,电商的爆品秒杀活动,短时间内被上千万的用户访问。

    解决办法

    缓存热点的常用解决方法有两种:复制多份缓存副本本地内存缓存。接下来我们详细了解一下这两种方法:

    复制多份缓存副本

    复制多份缓存副本,就是将请求分散到多个缓存服务器上,减轻缓存热点导致的单台缓存服务器压力。

    以爆品秒杀活动为例,爆品数据都可以生成 100 个缓存数据,缓存的数据是一样的,在缓存的 key 里面加上编号进行区分,每次读缓存时都随机读取其中某个缓存。

    在设计缓存副本的时候,有一个细节需要注意:不同的缓存副本不要设置统一的过期时间,否则就会出现所有缓存副本同时生成同时失效的情况,从而引发缓存的雪崩效应。

    正确的做法是设定一个过期时间范围,不同的缓存副本的过期时间是指定范围内的随机值。

    本地内存缓存

    把热点数据缓存在客户端的本地内存中,并且设置一个失效时间。对于每次读请求,将首先检查该数据是否存在于本地缓存中,如果存在则直接返回,如果不存在再去访问分布式缓存的服务器。

    复制多份缓存副本比较,本地内存缓存彻底“解放”了缓存服务器,不会对缓存服务器有任何压力。

    不过,本地内存缓存也有自己的缺点,假如缓存服务器中数据被被更新了,本地内存缓存没有及时更新,就导致数据不一致的情况。

    因此,本地内存缓存的失效时间需要设置尽量短一些。

    热点缓存的发现

    在前面的讨论中,我们预设了知道热点缓存有哪些,但是在大多数情况下,我们是无法知道哪些是热点缓存。

    不过,我们可以使用以下方法及时发现热点缓存:

    • 在客户端进行统计。在读取缓存时,加入数据统计的逻辑。当读取次数达到某个阈值时,判断其为热点缓存。
    • 在Proxy层进行统计。当读取缓存时有Proxy层时,可以在Proxy层加入数据统计的逻辑。
    • 使用缓存系统的自带工具。比如Redis性能分析工具redis-faina、redis-cli的hotkeys参数。

    总结

    缓存热点是指大部分甚至所有的业务请求都命中同一份缓存数据。

    常用的解决方法有两种:复制多份缓存副本,每个副本过期时间设置为指定范围内的随机值;本地内存缓存,缓存失效时间尽量设置短一些。

    最后,谢谢你这么帅,还给我点赞关注

    相关文章

      网友评论

          本文标题:3分钟整明白 缓存热点 是咋回事

          本文链接:https://www.haomeiwen.com/subject/oxogjrtx.html