服务容错保护 Spring Cloud Hystrix

在微服务架构中，系统被拆分成了很多服务单元，各个单元间通过服务注册与订阅的方式互相依赖。由于每个单元都在不同的进程中运行，依赖通过远程调用的方式执行，这样就有可能因为网络或依赖服务自身问题出现调用故障或延迟，同时也会导致调用方的对外服务也出现延迟。若调用方的请求不断增加，会因等待出现故障的依赖方响应形成任务积压，最终导致自身服务的瘫痪及整个系统的瘫痪。为了解决这样的问题，产生了断路器等一系列的服务保护机制。

在分布式架构中，当某个服务单元发生故障之后，通过断路器的故障监控，向调用方返回一个错误响应，而不是长时间的等待。这样就不会使得线程因调用故障服务被长时间占用不释放，避免故障在分布式系统中的蔓延。
Spring Cloud Hystrix实现了断路器，线程隔离等一系列的服务保护功能。它基于Netflix的开源框架Hystrix实现，通过控制访问远程系统，服务和第三方库的节点，从而对延迟和故障提供更强大的容错能力。Hystrix具备服务降级，服务熔断，线程和信号隔离，请求缓存，请求合并以及服务监控等强大的功能。

1. 快速集成 Spring Cloud Hystrix

1.1 基础服务

• eureka-server工程：服务注册中心
• hello-service工程：多个服务提供者服务单元
• ribbon-service工程：使用Spring Cloud Ribbon实现的服务消费者

1.2 集成 Spring Cloud Hystrix

1. 在ribbon-service工程中添加依赖：spring-cloud-starter-hystrix

2. 在ribbon-service工程主类上使用@EnableCircuitBreaker注解开启断路器功能

3. 在ribbon-service消费服务对应的Service函数上增加@HystrixCommand注解指定回调方法

   public String helloFallback() {
       // fallback method
      return "error";
   }
   
   @Override
   @HystrixCommand(fallbackMethod = "helloFallback")
   public void test() {
       // do something
       return "success";
   }
   

2. Spring Cloud Hystrix使用详解

2.1 创建请求命令

通过使用@HystrixCommand注解可以实现请求的同步执行与异步执行，更优雅的实现Hystrix命令的定义。

1. 同步执行

   @Autowired
   private RestTemplate restTemplate;
   
   @HystrixCommand
   public User getUserById(Long id) {
       return restTemplate.getForObject("http://USER-SERVICE/users/{1}", User.class, id);
   }
   

2. 异步执行

   @HystrixCommand
   public Future<User> getUserByIdAsync(final Long id) {
       return new AsyncResult<User>() {
           @Override
           public User invoke() {
               return restTemplate.getForObject("http://USER-SERVICE/users/{1}", User.class, id); 
           }
       };
   }
   

除同步执行与异步执行外，还可以将HystrixCommand通过Observable来实现响应式执行方式。注解实现依然是使用@HystrixCommand，在使用@HystrixCommand注解实现响应式命令时，可以通过<font color=#FF0000>observableExecutionMode</font>参数控制使用observe()还是toObservable()的执行方式。

@HystrixCommand
public Observable<User> getUserById(final Long id) {
    return Observable.create(new Observable.OnSubscribe<User>() {
        @Override
        public void call(Subscriber<? super User> observer) {
            try {
                if (!observer.isUnsubscribed()) {
                    User user = restTemplate.getForObject("http://USER-SERVICE/users/{1}", User.class, id);
                    observer.onNext(user);
                    observer.onCompleted();
                }
            } catch (Exception exception) {
                observer.onError(exception);
            }
        }
    });
}

observableExecutionMode参数设置

• @HystrixCommand(observableExecutionMode = ObservableExecutionMode.EAGER)

  EAGER表示使用observe()执行方式

• @HystrixCommand(observableExecutionMode = ObservableExecutionMode.LAZY)

  LAZY表示使用toObservable()执行方式

2.2 服务降级

注解实现通过使用@HystrixCommand注解中的<font color=#FF0000>fallbackMethod</font>参数指定具体的服务降级方法

2.3 异常处理

1. 异常传播

   在HystrixCommand实现的run()方法中抛出异常时，除了HystrixBadRequestException外，其它的异常均会被Hustrix认为命令执行失败并处罚服务降级的处理逻辑。

   HystrixCommand支持忽略指定异常类型的功能，通过使用@HystrixCommand注解中的<font color=#FF0000>ignoreException</font>参数

   @HystrixCommand(ignoreException = {BadRequestException.class})
   public User getUserById(Long id) {
    return restTemplate.getForObject("http://USER-SERVICE/users/{1}", User.class, id);
   }
   

2. 异常获取

   Hystrix命令因为异常进入服务降级逻辑后，往往需要对不同的异常做针对性处理，需要获取当前抛出的异常。

   通过在@HystrixCommand注解的fallbackMethod实现方法的参数中增加<font color=#FF0000>Throwable e</font>获取当前抛出的异常对象。

   public User helloFallback(Long id, Throwable e) {
       // fallback method
    return null;
   }
   
   @Override
   @HystrixCommand(fallbackMethod = "helloFallback")
   public User getUserById(Long id) {
       throw new RuntimeException("get user failed");
   }
   

2.4 命令名称，分组及线程池划分

通过设置命令组，Hystrix会根据组来组织和统计命令的告警和仪表盘等信息。注解实现只需要设置@HystrixCommand注解的<font color=#FF0000>commandKey，groupKey及threadPoolKey</font>属性即可，它们分别表示命令分组，分组及线程池划分。

@HystrixCommand(commandKey="getUserById", groupKey="UserGroup", threadPoolKey="getUserByIdThread")
public User getUserById(Long id) {
    return restTemplate.getForObject("http://USER-SERVICE/users/{1}", User.class, id);
}

2.5 请求缓存

​ Hystrix中提供了请求缓存的功能，可以方便的开启和使用请求缓存来优化系统，达到减轻高并发时的请求线程消耗，降低请求响应时间的效果。

​ 注解实现请求缓存，请求缓存的注解：

annotation	description	attributes
@CacheResult	标识请求命令结果应被缓存 必须与@HystrixCommand结合使用	cacheKeyMethod
@CacheRemove	使请求命令的缓存失效 失效的缓存根据Key决定	commandKey cacheKeyMethod
@CacheKey	在请求命令的参数上标记，使其作为缓存的Key值 若没有标记则使用所有参数，若同时还使用了@CacheResult和@CacheRemove注解的cacheKeyMethod方法指定缓存Key的生成，则该注解失效	value

• 设置缓存请求

  使用@CacheResult注解为请求命令开启缓存功能。当该依赖服务被调用并返回实例对象时，由于该方法被@CacheResult注解修改，所以Hystrix会将该结果置入请求缓存中，而它的缓存Key值会使用所有参数。

  @CacheResult
  @HystrixCommand
  public User getUserById(Long id) {
      return restTemplate.getForObject("http://USER-SERVICE/users/{1}", User.class, id);
  }
  

• 定义缓存Key

  当使用注解定义缓存请求时，若要为请求命令指定具体的缓存Key生成规则，可以使用@CacheResult和@CacheRemove注解的cacheKeyMethod方法指定具体的生成函数，也可以通过使用@CacheKey注解在方法的参数中指定用于组装缓存Key的元素，@CacheKey注解还允许访问参数对象的内部属性作为缓存Key。

  @CacheResult(cacheKeyMethod = "getUserByIdCacheKey")
  @HystrixCommand
  public User getUserById(Long id) {
      return restTemplate.getForObject("http://USER-SERVICE/users/{1}", User.class, id);
  }
  
  private Long getUserByIdCacheKey(Long id) {
      return id;
  }
  

  @CacheResult
  @HystrixCommand
  public User getUserById(@CacheKey("id") Long id) {
      return restTemplate.getForObject("http://USER-SERVICE/users/{1}", User.class, id);
  }
  
  @CacheResult
  @HystrixCommand
  public User getUserByPhone(@CacheKey("phone") User user) {
      return restTemplate.getForObject("http://USER-SERVICE/users/{1}", User.class, id);
  }
  

• 缓存清理

  使用@CacheResult注解将请求结果置入Hystrix的请求缓存中，若改内容调用了update操作进行了更新，那么此时请求缓存与实际结果不一致，因此需要在update操作上对失效的缓存进行清理。可以通过@CacheRemove注解实现失效缓存的清理，需要注意@CacheRemove注解的commandKey属性必须制定，它用来指明使用请求缓存的请求命令，只有通过该属性，Hystrix才能找到正确的请求命令缓存的位置。

  @CacheResult
  @HystrixCommand
  public User getUserById(@CacheKey("id") Long id) {
      return restTemplate.getForObject("http://USER-SERVICE/users/{1}", User.class, id);
  }
  
  @CacheRemove(commandKey = "getUserById")
  @HystrixCommand
  public void update(@CacheKey("id") User user) {
      return restTemplate.postForObject("http://USER-SERVICE/users", user, User.class);
  }