Dubbo - 集群容错、负载均衡

集群容错和负载均衡

集群容错

1. Cluster封装了集群的容错机制failover、failfast、failsafe、failback以及forking。
2. Directory管理集群中服务的List，根据注册中心动态注册而变化List。Cluster通过获取Directory，将List<Invoker>伪装成一个Invoker抽象，这一过程对于调用者透明。
3. Router负责按规则从多个Invoker中选出子集。通过Router实现应用隔离、读写分离，即使部分服务挂掉也不会影响其它应用。
4. LoadBalance负责从步骤3中获取的子集中选出具体要求执行invoke的具体Invoker。选的过程中包含了负载均衡算法。

容错机制分类

• Failover Cluster

失败自动切换，当出现失败，重试其它服务器 [1]。通常用于读操作，但重试会带来更长延迟。可通过 retries="2" 来设置重试次数(不含第一次)。

重试次数配置如下：

<dubbo:service retries="2" />

或

<dubbo:reference retries="2" />

或

<dubbo:reference>
    <dubbo:method name="findFoo" retries="2" />
</dubbo:reference>

• Failfast Cluster

快速失败，只发起一次调用，失败立即报错。通常用于非幂等性的写操作，比如新增记录。

• Failsafe Cluster

失败安全，出现异常时，直接忽略。通常用于写入审计日志等操作。

• Failback Cluster

失败自动恢复，后台记录失败请求，定时重发。通常用于消息通知操作。

• Forking Cluster

并行调用多个服务器，只要一个成功即返回。通常用于实时性要求较高的读操作，但需要浪费更多服务资源。可通过 forks="2" 来设置最大并行数。

• Broadcast Cluster

广播调用所有提供者，逐个调用，任意一台报错则报错 [2]。通常用于通知所有提供者更新缓存或日志等本地资源信息。

如何配置

按照以下示例在服务提供方和消费方配置集群模式

<dubbo:service cluster="failsafe" />

或

<dubbo:reference cluster="failsafe" />

负载均衡算法

• Random LoadBalance

  • 随机，按权重设置随机概率。
  • 在一个截面上碰撞的概率高，但调用量越大分布越均匀，而且按概率使用权重后也比较均匀，有利于动态调整提供者权重。

• RoundRobin LoadBalance

  • 轮询，按公约后的权重设置轮询比率。
  • 存在慢的提供者累积请求的问题，比如：第二台机器很慢，但没挂，当请求调到第二台时就卡在那，久而久之，所有请求都卡在调到第二台上。

• LeastActive LoadBalance

  • 最少活跃调用数，相同活跃数的随机，活跃数指调用前后计数差。
  • 使慢的提供者收到更少请求，因为越慢的提供者的调用前后计数差会越大。

• ConsistentHash LoadBalance

  • 一致性 Hash**，相同参数的请求总是发到同一提供者。
  • 当某一台提供者挂时，原本发往该提供者的请求，基于虚拟节点，平摊到其它提供者，不会引起剧烈变动。
  • 算法参见：http://en.wikipedia.org/wiki/Consistent_hashing
  • 缺省只对第一个参数 Hash，如果要修改，请配置 <dubbo:parameter key="hash.arguments" value="0,1" />
  • 缺省用 160 份虚拟节点，如果要修改，请配置 <dubbo:parameter key="hash.nodes" value="320" />

如何配置

• 服务端服务级别

<dubbo:service interface="..." loadbalance="roundrobin" />

• 客户端服务级别

<dubbo:reference interface="..." loadbalance="roundrobin" />

• 服务端方法级别

<dubbo:service interface="...">
    <dubbo:method name="..." loadbalance="roundrobin"/>
</dubbo:service>

• 客户端方法级别

<dubbo:reference interface="...">
    <dubbo:method name="..." loadbalance="roundrobin"/>
</dubbo:reference>

只订阅

在实际生产开发中会出现这样的情况：大部分开发人员希望有一个提供所有稳定服务的注册中心，但又存在一些新的服务或者变更的服务需要开发联调，对于这部分服务可以通过过直连提供者（点对点直连）。对于正在开发的服务可以只用只订阅模式，只订阅服务，而不注册正在开发的服务。

服务只订阅

直连提供者

配置优先级 JVM > 文件映射 > XML配置

• XML配置

<dubbo:reference id="xxxService" interface="com.alibaba.xxx.XxxService" url="dubbo://localhost:20890" />

• 通过-D参数指定

// 在 JVM 启动参数中加入-D参数映射服务地址 [2]，如：
java -Dcom.alibaba.xxx.XxxService=dubbo://localhost:20890

• 通过文件映射

如果服务比较多，也可以用文件映射，用 -Ddubbo.resolve.file 指定映射文件路径，此配置优先级高于 <dubbo:reference> 中的配置 [3]，如：

java -Ddubbo.resolve.file=xxx.properties

然后在映射文件 xxx.properties 中加入配置，其中 key 为服务名，value 为服务提供者 URL：

com.alibaba.xxx.XxxService=dubbo://localhost:20880

只注册

假设存在两个镜像环境，两个注册中心，有一个服务只在一个注册中心A完成部署，在另一个注册中心B尚未完成部署，且A、B的其它应用都需要依赖此服务。这个时候可以让服务提供者只在B注册，但是不从B做服务订阅。

<!-- 禁用服务订阅way1 -->
<dubbo:registry id="aRegistry" address="10.20.153.10:9090" />
<dubbo:registry id="bRegistry" address="10.20.141.150:9090" subscribe="false" />

<!-- 禁用服务订阅way2 -->
<dubbo:registry id="aRegistry" address="10.20.153.10:9090" />
<dubbo:registry id="bRegistry" address="10.20.141.150:9090?subscribe=false" />

参考：

dubbo官方文档-集群容错