下游服务挂了造成雪崩

微服务间的依赖.png

• 请求进来访问 A，A 需要调 B，C，D；
• D 挂了；
• A 调 D 的线程就挂起；
• 不停的有请求访问 A，A 就不停的开新线程调 D；
• 当 A 开的线程数超过阈值，A 也失去响应了；
• 依赖 A 的服务慢慢的也失去响应，造成连锁的反应；
• 根上其实就是服务 D 不行了，但 D 造成了和它有依赖关系的服务都不行了；
• 这就是雪崩；
• 要避免雪崩，就是当 D 不行了，不会把调用它的服务都拖死；

熔断器

熔断器的加入.png

• 上游服务和下游服务之间加了一个熔断器；
• 熔断器平时处于关闭状态；
• A 一旦发现 D 不可用了，熔断器就会打开，此时，A 再调 D 的时候，发现 D 不行了，请求不会再发到 D 上，而是从熔断器直接就返回了；
• A 不会再等 D 的响应，后面再有访问 A 的请求，也不会造成线程的堆积；

熔断器详解图

熔断器详解图.png

• 熔断器其实是一个 3 个状态的状态机；
• 请求进来熔断器，如果熔断器是关闭状态，请求就会放给后面的服务，后面的服务如果正常返回 ，没问题；如果后面的服务出现问题，比如数据库连不上了，抛异常了，网络抖动，服务压力大导致响应时间变长，服务超时，在熔断器这都会做一个统计；熔断器一共放过去 10 个请求，5 个超时，3 个报错；可以配置熔断器，在什么情况下，从关闭状态到打开状态，比如 1s 过去 10 个请求，有 5 个超时，就把熔断器打开；
• 如果熔断器打开，请求进入熔断器，从熔断器就直接返回了；
• 如果后面的服务是因为网络抖动，服务压力瞬间变大，当熔断器打开一段时间后，后面的服务会自己恢复，这时候，需要一个机制，让熔断器知道后面的服务正常了，让熔断器重新回到关闭状态；这个机制就是一个定时任务，定时的时间是可以配置的，当时间到了，熔断器会变成版打开状态，放一个请求给后面的服务，如果后面的服务成功处理了这个请求，熔断器就从半打开状态变成关闭状态，请求后可以到达后面的服务了；如果放过去的请求还是失败，熔断器回到打开状态，等待下一个时间窗口，尝试下一次试探，直到试探成功；

降级

• 降级就是，当熔断器打开的时候，可以指定一个更简化的处理；
• 比如后面的服务是一个推荐服务，如果后面的服务挂了，就把预先设计好的列表，响应给请求；
• 用户此时看到的列表，不是针对他实时计算推荐出来的，而是预先设定好的；
• 降级是将的响应的质量，但不会造成用户端没有响应；

用代码配置 Sentinel 的熔断规则

Sentinel 的三种失败指标

• 一秒内（请求数大于等于 5）响应时间超过某个值：RuleConstant.DEGRADE_GRADE_RT；
• 一秒内（请求数大于等于 5）的错误比率：RuleConstant.DEGRADE_GRADE_EXCEPTION_RATIO；
• 一分钟内的错误数量：RuleConstant.DEGRADE_GRADE_EXCEPTION_COUNT；

代码

@Component
public class SentinelConfig implements ApplicationListener<ContextRefreshedEvent> {

    /**
     * 整个系统启动好了之后，会这行整个方法；
     * 这里要声明一个规则；
     * 这里是用代码的方式控制规则的制定，这种方式的控制程度是最高的，所有的细节都可以控制，缺点就是麻烦；
     * @param contextRefreshedEvent
     */
    @Override
    public void onApplicationEvent(ContextRefreshedEvent contextRefreshedEvent) {
        fusingRule();
    }

    /**
     * 熔断规则
     */
    private void fusingRule() {
        DegradeRule rule = new DegradeRule();
        rule.setResource("createOrder");

        // 1s 内的请求数超过 5 的情况下，响应时间超过多少，打开熔断器；
        rule.setGrade(RuleConstant.DEGRADE_GRADE_RT);

        // 如果响应时间超过 10ms，就记一次数；如果 1s 内有 5 个请求，5 个请求都超时了，就熔断；
        rule.setCount(10);

        // 熔断的持续时间为 10s，熔断时间超过 10s 就进入半打开状态；
        rule.setTimeWindow(10);

        List<DegradeRule> degradeRules = new ArrayList<>();
        degradeRules.add(rule);
        DegradeRuleManager.loadRules(degradeRules);
    }

}

使用 Sentinel 实现降级

正常的业务方法

@PostMapping
@PreAuthorize("hasRole('ROLE_ADMIN')")
@SentinelResource(value = "createOrder", blockHandler = "doOnBlock")
public OrderInfo create(@RequestBody OrderInfo info, @AuthenticationPrincipal String username)
        throws InterruptedException {

    // 这里的代码就是资源 createOrder
    log.info("user is " + username);

    Thread.sleep(50);

    return info;
}

发生熔断后的降级方法

/**
 * 降级方法：一定是 public，返回值和参数要和
 * @SentinelResource(value = "createOrder", blockHandler = "doOnBlock") 标记的方法一样，只是多出一个参数；
 * @param info
 * @param username
 * @param exception
 * @return
 * @throws InterruptedException
 */
public OrderInfo doOnBlock(@RequestBody OrderInfo info,
                           @AuthenticationPrincipal String username,
                           BlockException exception) throws InterruptedException {

    // 降级逻辑，比如返回预先准备好的数据啥的
    log.info("Blocked by : " + exception.getClass().getSimpleName());

    return info;
}