Dubbo 入门（2）：配置管理与高可用

配置管理

配置生效优先级

• JVM 启动 -D 参数优先，这样可以使用户在部署和启动时进行参数重写，比如在启动时需改变协议的端口。
• XML 次之，如果在 XML 中有配置，则 dubbo.properties 中的相应配置项无效。
• Properties 最后，相当于缺省值，只有 XML 没有配置时，dubbo.properties 的相应配置项才会生效，通常用于共享公共配置，比如应用名。

重试次数

失败自动切换，当出现失败，重试其它服务器，但重试会带来更长延迟。可通过 retries="2"来设置重试次数(不含第一次)。
重试次数配置如下：

<dubbo:service retries="2" />
#或
<dubbo:reference retries="2" />
#或
<dubbo:reference>
    <dubbo:method name="findFoo" retries="2" />
</dubbo:reference>

超时时间

由于网络或服务端不可靠，会导致调用出现一种不确定的中间状态（超时）。为了避免超时导致客户端资源（线程）挂起耗尽，必须设置超时时间。

Dubbo消费端

• 全局超时配置

  <dubbo:consumer timeout="5000" />
  

• 指定接口以及特定方法超时配置

  <dubbo:reference interface="com.foo.BarService" timeout="2000">
      <dubbo:method name="sayHello" timeout="3000" />
  </dubbo:reference>
  

Dubbo 服务端

• 全局超时配置

  <dubbo:provider timeout="5000" />
  

• 指定接口以及特定方法超时配置

  <dubbo:provider interface="com.foo.BarService" timeout="2000">
      <dubbo:method name="sayHello" timeout="3000" />
  </dubbo:provider>
  

配置原则

dubbo 推荐在 Provider上尽量多配置Consumer 端属性：

• 1、服务的提供者，比服务使用方更清楚服务性能参数，如调用的超时时间，合理的重试次数，等等
• 2、在Provider 配置后，Consumer不配置则会使用Provider的配置值，即Provider配置可以作为Consumer的缺省值。否则，Consumer会使用Consumer端的全局设置，这对于Provider不可控的，并且往往是不合理的
  

配置的覆盖规则：

• 方法级配置>接口级别，即小 Scope 优先
• Consumer端配置 > Provider配置 > 全局配置，
• 最后是 Dubbo Hard Code 的配置值（见配置文档）

版本号

-当一个接口实现，出现不兼容升级时，可以用版本号过渡，版本号不同的服务相互间不引用。
可以按照以下的步骤进行版本迁移：

• 在低压力时间段，先升级一半提供者为新版本，再将所有消费者升级为新版本。然后将剩下的一半提供者升级为新版本

• 老版本服务提供者配置：

  <dubbo:service interface="com.foo.BarService" version="1.0.0" />
  

• 新版本服务提供者配置：

  <dubbo:service interface="com.foo.BarService" version="2.0.0" />
  

• 老版本服务消费者配置：

  <dubbo:reference id="barService" interface="com.foo.BarService" version="1.0.0" />
  

• 新版本服务消费者配置：

  <dubbo:reference id="barService" interface="com.foo.BarService" version="2.0.0" />
  

• 如果不需要区分版本，可以按照以下的方式配置：

  <dubbo:reference id="barService" interface="com.foo.BarService" version="*" />
  

高可用

zookeeper 宕机与 dubbo 直连

现象：zookeeper 注册中心宕机，还可以消费dubbo 暴露的服务。
原因：

• 健壮性

  • 监控中心宕掉不影响使用，只是丢失部分采样数据
  • 数据库宕掉后，注册中心仍能通过缓存提供服务列表查询，但不能注册新服务
  • 注册中心对等集群，任意一台宕掉后，将自动切换到另一台
  • 注册中心全部宕掉后，服务提供者和服务消费者仍能通过本地缓存通讯
  • 服务提供者无状态，任意一台宕掉后，不影响使用
  • 服务提供者全部宕掉后，服务消费者应用将无法使用，并 无限次重连 等待服务提供者恢复

• 高可用： 通过设计，减少系统不能提供服务的时间；

集群下 dubbo 负载均衡配置

在集群负载均衡时，Dubbo 提供了多种均衡策略，缺省为 random 随机调用。
负载均衡策略如下：

• Random LoadBalance:
  按权重设置随机概率。
  在一个截面上碰撞的概率高，但调用量越大分布越均匀，而且按概率使用权重后也比较均匀，有利于动态调整提供者权重。

• RoundRobin LoadBalance：
  轮循，按公约后的权重设置轮循比率。
  存在慢的提供者累积请求的问题，比如：第二台机器很慢，但没挂，当请求调到第二台时就卡在那，久而久之，所有请求都卡在调到第二台上。

• LeastActive LoadBalance：
  最少活跃调用数
  相同活跃数的随机，活跃数指调用前后计数差。使慢的提供者收到更少请求，因为越慢的提供者的调用前后计数差会越大。

• ConsistentHash LoadBalance
  一致性 Hash，相同参数的请求总是发到同一提供者。
  当某一台提供者挂时，原本发往该提供者的请求，基于虚拟节点，平摊到其它提供者，不会引起剧烈变动。
  算法参见：http://en.wikipedia.org/wiki/Consistent_hashing

  • 缺省只对第一个参数 Hash，如果要修改，请配置<dubbo:parameter key="hash.arguments" value="0,1" />
  • 缺省用 160 份虚拟节点，如果要修改，请配置 <dubbo:parameter key="hash.nodes" value="320" />

服务降级

定义： 当服务器压力剧增的情况下，根据实际业务情况及流量，对一些服务和页面有策略的不处理或换种简单的方式处理，从而释放服务器资源以保证核心交易正常运作或高效运作。

• 可以通过服务降级功能临时屏蔽某个出错的非关键服务，并定义降级后的返回策略。

• 向注册中心写入动态配置覆盖规则：

  RegistryFactory registryFactory = ExtensionLoader.getExtensionLoader(RegistryFactory.class).getAdaptiveExtension();
  Registry registry = registryFactory.getRegistry(URL.valueOf("zookeeper://10.20.153.10:2181"));
  registry.register(URL.valueOf("override://0.0.0.0/com.foo.BarService?category=configurators&dynamic=false&application=foo&mock=force:return+null"));
  

  其中：

  • mock=force:return+null 表示消费方对该服务的方法调用都直接返回 null 值，不发起远程调用。用来屏蔽不重要服务不可用时对调用方的影响。
  • 还可以改为 mock=fail:return+null 表示消费方对该服务的方法调用在失败后，再返回 null 值，不抛异常。用来容忍不重要服务不稳定时对调用方的影响。

集群容错

在集群调用失败时，Dubbo 提供了多种容错方案，缺省为 failover重试。
集群容错模式

• Failover Cluster失败自动切换
  当出现失败，重试其它服务器。通常用于读操作，但重试会带来更长延迟。可通过 retries="2"来设置重试次数(不含第一次)。

  • 重试次数配置如下：

    <dubbo:service retries="2" />
    或
    <dubbo:reference retries="2" />
    或
    <dubbo:reference>
        <dubbo:method name="findFoo" retries="2" />
    </dubbo:reference>
    

• Failfast Cluster: 快速失败
  只发起一次调用，失败立即报错。通常用于非幂等性的写操作，比如新增记录。

• Failsafe Cluster: 失败安全
  出现异常时，直接忽略。通常用于写入审计日志等操作。

• Failback Cluster
  失败自动恢复，后台记录失败请求，定时重发。通常用于消息通知操作。

• Forking Cluster: 并行调用多个服务器，只要一个成功即返回。
  通常用于实时性要求较高的读操作，但需要浪费更多服务资源。可通过 forks="2" 来设置最大并行数。

• Broadcast Cluster
  广播调用所有提供者，逐个调用，任意一台报错则报错 [2]。通常用于通知所有提供者更新缓存或日志等本地资源信息。

集群模式配置：按照以下示例在服务提供方和消费方配置集群模式

<dubbo:service cluster="failsafe" />
或
<dubbo:reference cluster="failsafe" />

整合 hystrix 提供容错功能

Hystrix 旨在通过控制那些访问远程系统、服务和第三方库的节点，从而对延迟和故障提供更强大的容错能力。
Hystrix 具备拥有回退机制和断路器功能的线程和信号隔离，请求缓存和请求打包，以及 监控和配置 等功能

• 1、配置spring-cloud-starter-netflix-hystrix
  spring boot官方提供了对hystrix的集成，直接在pom.xml里加入依赖：

    <dependency>
          <groupId>org.springframework.cloud</groupId>
          <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
          <version>1.4.4.RELEASE</version>
      </dependency>
  

  然后在 Application 类上增加 @EnableHystrix 来启用 hystrix starter：

  @SpringBootApplication
  @EnableHystrix
  public class ProviderApplication {
  

• 2、配置 Provider 端
  在 Dubbo 的 Provider上增加 @HystrixCommand 配置，这样子调用就会经过 Hystrix 代理。

  @Service(version = "1.0.0")
  public class HelloServiceImpl implements HelloService {
      @HystrixCommand(commandProperties = {
       @HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "10"),
       @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "2000") })
      @Override
      public String sayHello(String name) {
          // System.out.println("async provider received: " + name);
          // return "annotation: hello, " + name;
          throw new RuntimeException("Exception to show hystrix enabled.");
      }
  }
  

• 3、配置Consumer端
  对于Consumer端，则可以增加一层 method 调用，并在method上配置@HystrixCommand。当调用出错时，会走到fallbackMethod = "reliable"的调用里。

  @Reference(version = "1.0.0")
  private HelloService demoService;
  
  @HystrixCommand(fallbackMethod = "reliable")
  public String doSayHello(String name) {
      return demoService.sayHello(name);
  }
  public String reliable(String name) {
      return "hystrix fallback value";
  }
  

Dubbo 原理

RPC 的步骤演示

一次完整的 RPC 调用流程（同步调用，异步另说）如下：

• 1）服务消费方（client）调用以本地调用方式调用服务；
• 2）client stub 接收到调用后负责将方法、参数等组装成能够进行网络传输的消息体；
• 3）client stub 找到服务地址，并将消息发送到服务端；
• 4）server stub 收到消息后进行解码；
• 5）server stub根据解码结果调用本地的服务；
• 6）本地服务执行并将结果返回给server stub；
• 7）server stub 将返回结果打包成消息并发送至消费方；
• 8）client stub 接收到消息，并进行解码；
• 9）服务消费方得到最终结果。

RPC 框架的目标就是要 2~8 这些步骤都封装起来，这些细节对用户来说是透明的，不可见的。

netty 通信原理

Netty 是一个异步事件驱动的网络应用程序框架， 用于快速开发可维护的 高性能协议服务器和客户端 。它极大地简化并简化了 TCP 和 UDP 套接字服务器等网络编程。

• BIO
  
• NIO (Non-Blocking IO)
  
  Selector 一般称 为选择器 ，也可以翻译为 多路复用器
  Connect（连接就绪）、Accept（接受就绪）、Read（读就绪）、Write（写就绪）

Netty基本原理：

dubbo原理

dubbo 原理-框架设计

• config 配置层：对外配置接口，以 ServiceConfig,ReferenceConfig 为中心，可以直接初始化配置类，也可以通过 spring 解析配置生成配置类
• proxy 服务代理层：服务接口透明代理，生成服务的客户端 Stub 和服务器端 Skeleton, 以 ServiceProxy 为中心，扩展接口为 ProxyFactory
• registry 注册中心层：封装服务地址的注册与发现，以服务 URL 为中心，扩展接口为 RegistryFactory, Registry,RegistryService
• cluster 路由层：封装多个提供者的路由及负载均衡，并桥接注册中心，以 Invoker 为中心，扩展接口为Cluster, Directory, Router, LoadBalance
• monitor 监控层：RPC 调用次数和调用时间监控，以 Statistics 为中心，扩展接口为 MonitorFactory, Monitor, MonitorService
• protocol 远程调用层：封装 RPC 调用，以 Invocation, Result 为中心，扩展接口为 Protocol, Invoker, Exporter
• exchange 信息交换层：封装请求响应模式，同步转异步，以 Request, Response 为中心，扩展接口为 Exchanger, ExchangeChannel, ExchangeClient, ExchangeServer
• transport 网络传输层：抽象 mina 和 netty 为统一接口，以 Message 为中心，扩展接口为 Channel, Transporter, Client, Server, Codec
• serialize 数据序列化层：可复用的一些工具，扩展接口为 Serialization, ObjectInput, ObjectOutput, ThreadPool

启动解析、加载配置信息

服务暴露

服务引用

服务调用