redis应用场景之缓存

一、缓存一些知识

1.1、缓存击穿、缓存穿透、缓存雪崩是什么？

• 缓存击穿
  用户请求的某个key在DB或者缓存中存在，但是可能正好在当这个key在缓存中到达了失效时间而过期，而此时大量访问该数据请求过来，相当于在缓存中凿开一个缺口，一下子全部打在DB上，造成DB压力压垮DB。
  缓存击穿.png

• 缓存穿透
  用户通过请求一些缓存和DB中压根都不存在的数据，致使每次请求都会绕过缓存，请求DB，给DB带来压力
  图2.缓存穿透

• 缓存雪崩
  当缓存服务器重启或者大量缓存的keys过期失效，导致客户端过来的请求全部直接请求到DB中，造成DB压力大而崩溃（注意这里和缓存击穿不同的是缓存击穿是单个key失效引起，而雪崩是大量key失效）
  缓存雪崩.png

1.2 应对缓存击穿

• 1）互斥锁访问数据
  针对某一热点数据，在获取时可通过加互斥锁使得只有一个请求进行处理访问DB，并将数据放置到缓存中，后续阻塞的请求将直接命中缓存。

• 2）设置热点数据永不过期

1.3 应对缓存穿透

• 加强接口入参校验。将不合法入参抹杀在摇篮中
• 如果未查出数据，可赋予缓存中对应key一个null值，并设置一个过期时间，防止单位时间内大量请求访问DB。因为设置了过期时间，所以可以保证后续该key有值了，可以获取到。

1.4 应对缓存雪崩

• 1）设置缓存过期时间时，加上随机时间戳
  这样做的好处就是尽量使得缓存key们的过期时间均匀分散，不至于在同一个时间点大面积缓存过期失效引起雪崩

• 2）不设置缓存过期时间

• 3）分布式缓存服务器部署的情况下，可以将热点数据分散在不同的缓存服务器中

二、redisLRU缓存机制

2.1 Redis内存淘汰机制

LRU是Least Recently Used的缩写，即最近最少使用，是一种常用的页面置换算法，选择最近最久未使用的页面予以淘汰。该算法赋予每个页面一个访问字段，用来记录一个页面自上次被访问以来所经历的时间 t，当须淘汰一个页面时，选择现有页面中其 t 值最大的，即最近最少使用的页面予以淘汰。 ----- 摘自百度百科

LRU缓存那就是将最近最少访问的缓存剔除。redis针对LRU机制提供了实现支持。redis在redis.conf中提供了配置选项maxmemory 来配置执行大小的内存数据集。或者在服务器运行时，可在客户端通过CONFIG SET进行设置。

maxmemory 100mb

如果设置未0，那么则表示内存不受限制。当往redis中存放值时，达到我们指定的maxmemory值时，redis提供了多种不同的剔除值策略。可以通过在redis.conf中配置策略

noeviction xxx

• noeviction（default）
  即当达到maxmemory内存限制时，不做数据剔除，直接返回错误

• allkeys-lru
  即当达到maxmemory内存限制时，删除最近最少使用的key以保证新的值可以添加进来

• volatile-lru
  即当达到maxmemory内存限制时，删除最近最少使用并且通过expire设置了过期时间的key，以保证新的值可以添加进来

• allkeys-random
  即当达到maxmemory内存限制时，随机删除一些key以保证新的值可以添加进来

• volatile-random
  即当达到maxmemory内存限制时，随机删除一些设置了过期时间的key以保证新的值可以添加进来

• volatile-ttl
  即当达到maxmemory内存限制时，删除一些设置了过期时间并且TTK所剩时间最短的keys以保证新的值可以添加进来

其中volatile-lru、volatile-random、volatile-ttl如果没有满足条件的key可以进行删除，那么它们的行为就和noeviction策略一样。剔除策略也可以在运行时进行设置。

2.2 Redis LRU淘汰机制精确度

在redis3.0之后，redis针对之前近似LRU算法进行了性能上的改进提升，以及使得LRU算法更加接近准确。通过配置参数maxmemory-samples可以调整样本的数量来为LRU算法获取精度。注意redis的LRU算法并不是LRU真正具体的实现，因为那很耗费内存。但是其实redis计算出的近似值于真实算法值是很相近的。

maxmemory-samples 5

redis lru算法与真实lru对比.png

从上述Redis官方给的测试数据可以看出，同样样本数未5，redis3.0要比之前好一点，当提高样本数之后，更加的好一点，但是与真实LRU算法实现还是差点火候。

我们可以以额外的CPU使用为代价将样本大小增加到10，以接近真实的LRU，并检查这是否会对缓存漏报率产生影响。

在生产环境中，很容易通过CONFIG SET maxmemory-samples <count>命令来设置不同的样本值进行实验。

三、Redis结合Spring Cache Abstraction实现缓存

spring cache abstraction的更多使用spring知识之Spring Cache Abstraction的使用

实现缓存的思想其实并不复杂，简单点说，就是查询先从缓存服务器中查询，如果查询到则立即返回，否则再去DB中查询返回然后再放至到缓存当中；；在对数据进行更新操作时，操作DB成功以后，在决定缓存的更新策略（更新缓存or删除缓存）。

3.1 配置RedisCacheManager

spring-data-redis提供了spring抽象缓存的实现，为了借助于spring cache实现缓存，我们需要加载一个RedisCacheManager。

@Bean
public RedisCacheManager cacheManager(RedisConnectionFactory connectionFactory) {
    return RedisCacheManager.create(connectionFactory);
}

通过RedisCacheManager.create创建出的是默认配置的RedisCacheManager，如果我们想设置一些事务或者预定义缓存则可通过builder进行构建。

3.1.1 自定义缓存配置RedisCacheConfiguration

RedisCacheConfiguration配置类，可以用来配置比如设置缓存key的过期时间、是否缓存null值、是否启用key前缀、以及key和value缓存过程中二进制数据 的序列化策略。

• 基本配置

        // 默认缓存配置
        RedisCacheConfiguration redisCacheConfiguration = RedisCacheConfiguration.defaultCacheConfig();

        // 设置缓存key失效时间为2分钟
        redisCacheConfiguration.entryTtl(Duration.ofMinutes(2));

        // 禁用缓存null值(默认为启用)
        redisCacheConfiguration.disableCachingNullValues();

        // 禁用设置key前缀（默认为启用）
        redisCacheConfiguration.disableKeyPrefix();

        // 设置key前缀
        redisCacheConfiguration.prefixCacheNameWith("miaomiao:");

• key,value序列化策略
  RedisCacheConfiguration默认key的序列化器是StringRedisSerializer，value的序列化器是JdkSerializationRedisSerializer

3.2 代码实操Srping Cache Abstranction

大致贴下各层demo。

entity(注意需要序列化)

@Entity
@Table(name = "user")
public class UserInfo implements Serializable {

    @Id
    @Column(name = "user_id")
    private int userId;

    @Column(name = "user_name")
    private String userName;
    
get set 省略。。。
}

Dao

@Repository
public interface UserInfoRepository extends JpaRepository<UserInfo,Integer> {
}

Service

public interface UserInfoService {
    Optional<UserInfo> getUserInfo(int userId);
}

@Service
public class UserInfoServiceImpl implements UserInfoService {
    @Autowired
    private UserInfoRepository userInfoRepository;

    @Override

    @Cacheable("user")
    public Optional<UserInfo> getUserInfo(int userId) {
        System.out.println("发生了真实调用！！！");
        return userInfoRepository.findById(userId);
    }
}

config（注意@EnableCaching启用缓存）

@Configuration
@EnableCaching
public class RedisCacheConfig {
    @Bean
    public RedisCacheManager cacheManager(RedisConnectionFactory redisConnectionFactory) {
        // 默认缓存配置
        RedisCacheConfiguration redisCacheConfiguration = RedisCacheConfiguration.defaultCacheConfig();

        // 设置缓存key失效时间为2分钟
        redisCacheConfiguration.entryTtl(Duration.ofMinutes(2));

        // 禁用缓存null值(默认为启用)
        redisCacheConfiguration.disableCachingNullValues();

      
        return RedisCacheManager.builder(redisConnectionFactory).cacheDefaults(redisCacheConfiguration).build();
    }
}

Test 以及输入

@SpringBootTest
public class UserInfoServiceImplTest {

    @Autowired
    private UserInfoService userInfoService;

    @Test
    public void getUserInfo() {
        System.out.println("=========start1===========");
        System.out.println(userInfoService.getUserInfo(1));
        System.out.println("==========end1==========");

        System.out.println("=========start2===========");
        System.out.println(userInfoService.getUserInfo(1));
        System.out.println("==========end2==========");

    }
}

=========start1===========
发生了真实调用！！！
Hibernate: select userinfo0_.user_id as user_id1_0_0_, userinfo0_.user_name as user_nam2_0_0_ from user userinfo0_ where userinfo0_.user_id=?
Optional[UserInfo{userId=1, userName='cf'}]
==========end1==========


=========start2===========
Optional[UserInfo{userId=1, userName='cf'}]
==========end2==========

再看redis的keys

redis

3.3 小结

从上述测试输出我们可以看出,在第一次进行调用（缓存中未存放相关值时，发生了真实调用，查库，然后返回结果），而第二次因为在第一次调用的基础上，缓存中已经有了值，所以直接将缓存结果返回，完全未触发真实的方法逻辑，所以这里也是很需要注意的地方，如果不太了解，只是跟着网上demo去使用，则可能发生将其他业务逻辑包杂在上述方法中，造成有缓存清空未调用导致bug等。

四、如何保障缓存DB一致性以及分布式数据一致性？

4.1 缓存和DB数据不一致场景（或者说诱因）

1）缓存和DB的操作不在一个事务中进行，很可能缓存的操作和DB的操作其中一个成功一个失败，导致数据不一致。
2）多线程对缓存进行更新操作时，可能导致旧数据被更新至缓存中。

参考文档

[1].https://docs.spring.io/spring-data/redis/docs/2.3.1.RELEASE/reference/html/#redis:support:cache-abstraction

[2].https://docs.spring.io/spring/docs/5.2.7.RELEASE/spring-framework-reference/integration.html#cache