dubbo集群模式与负载均衡

集群容错模式：
可以自行扩展集群容错策略，参见：集群扩展
Failover Cluster
● 失败自动切换，当出现失败，重试其它服务器。(缺省)
● 通常用于读操作，但重试会带来更长延迟。
● 可通过retries=”2”来设置重试次数(不含第一次)。
Failfast Cluster
● 快速失败，只发起一次调用，失败立即报错。
● 通常用于非幂等性的写操作，比如新增记录。
Failsafe Cluster
● 失败安全，出现异常时，直接忽略。
● 通常用于写入审计日志等操作。
Failback Cluster
● 失败自动恢复，后台记录失败请求，定时重发。
● 通常用于消息通知操作。
Forking Cluster
● 并行调用多个服务器，只要一个成功即返回。
● 通常用于实时性要求较高的读操作，但需要浪费更多服务资源。
● 可通过forks=”2”来设置最大并行数。
Broadcast Cluster
● 广播调用所有提供者，逐个调用，任意一台报错则报错。(2.1.0开始支持)
● 通常用于通知所有提供者更新缓存或日志等本地资源信息。

以默认Failover Cluster模式为例，看一下FailoverCluster的执行过程

1. RegistryProtocol引用服务时， cluster.join方法实例代一个FailoverClusterInvoker并返回。
2.   消费者执行方法时，代理对象会调用Invoker.invoke()->AbstractClusterInvoker.invoke()->FailoverClusterInvoker.doInvoke()
3. FailoverClusterInvoker.doInvoke方法，从url中获取重试的次数，并根据次数进行for循环, 调用select方法选择invoker。
4. 获取sticky参数，设置了粘滞连接，尽可能让客户端总是向同一提供者发起调用，除非该提供者挂了，再连另一台。
5. doselect方法，首先根据负载均衡算法选择出一个invoker,如果该连接没有被选择过，且没有设置可用性检查，则直接返回。 Invoker<T> invoker = loadbalance.select(invokers, getUrl(),
invocation);
6.  如果已经被选择过，则说明曾经调用失败，调用reselect方法。先从非selected的列表中选择，没有在从selected列表中选择。
7. 调用invoker.invoke()返回结果，如果发生异常，则会把异常捕获，进入下次循环，这样实现失败自动切换。

负载均衡
在集群负载均衡时，Dubbo提供了多种均衡策略，缺省为random随机调用。
在集群负载均衡时，Dubbo提供了多种均衡策略，缺省为random随机调用。
可以自行扩展负载均衡策略
Random LoadBalance
● 随机，按权重设置随机概率。
● 在一个截面上碰撞的概率高，但调用量越大分布越均匀，而且按概率使用权重后也比较均匀，有利于动态调整提供者权重。
RoundRobin LoadBalance
● 轮循，按公约后的权重设置轮循比率。
● 存在慢的提供者累积请求问题，比如：第二台机器很慢，但没挂，当请求调到第二台时就卡在那，久而久之，所有请求都卡在调到第二台上。
LeastActive LoadBalance
● 最少活跃调用数，相同活跃数的随机，活跃数指调用前后计数差。
● 使慢的提供者收到更少请求，因为越慢的提供者的调用前后计数差会越大。
ConsistentHash LoadBalance
● 一致性Hash，相同参数的请求总是发到同一提供者。
● 当某一台提供者挂时，原本发往该提供者的请求，基于虚拟节点，平摊到其它提供者，不会引起剧烈变动。
● 算法参见：http://en.wikipedia.org/wiki/Consistent_hashing。
● 缺省只对第一个参数Hash，如果要修改，请配置
● 缺省用160份虚拟节点，如果要修改，请配置

以默认RandomLoadBalance模式为例，看一下RandomLoadBalance的执行过程

1. ClusterInvoker会调用LoadBalance.select()方法
2. RandomLoadBalance.doSelect(), 获取权重，并判断每个节点的权重是否相同
3.  // 如果权重相同或权重为0则均等随机
    return invokers.get(random.nextInt(length));
4.   如果权重不相同且权重大于0则按总权重数随机， 并确定随机值落在哪个片断上

int offset = random.nextInt(totalWeight);
            for (int i = 0; i < length; i++) {
                offset -= getWeight(invokers.get(i), invocation);
                if (offset < 0) {
                    return invokers.get(i);
                }
            }