【RPC框架】之 Dubbo

一、分布式基础理论

---

1、什么是分布式系统

《分布式系统原理与范型》定义：

分布式系统是若干独立计算机的集合，这些计算机对于用户来说就像单个相关系统

分布式系统（distributed system）是建立在网络之上的软件系统。

随着互联网的发展，网站应用的规模不断扩大，常规的垂直应用架构已无法应对，分布式服务架构以及流动计算架构势在必行，亟需一个治理系统确保架构有条不紊的演进。

2、分布式发展演变

单一应用架构

当网站流量很小时，只需一个应用，将所有功能都部署在一起，以减少部署节点和成本。此时，用于简化增删改查工作量的数据访问框架(ORM)是关键。

其优点为：适用于小型网站，小型管理系统，将所有功能都部署到一个功能里，简单易用。

缺点为：

• 1、性能扩展比较难
• 2、协同开发问题
• 3、不利于升级维护

垂直应用架构

当访问量逐渐增大，单一应用增加机器带来的加速度越来越小，将应用拆成互不相干的几个应用，以提升效率。此时，用于加速前端页面开发的Web框架(MVC)是关键。

通过切分业务来实现各个模块独立部署，降低了维护和部署的难度，团队各司其职更易管理，性能扩展也更方便，更有针对性。

缺点： 公用模块无法重复利用，开发性的浪费。

分布式服务架构

当垂直应用越来越多，应用之间交互不可避免，将核心业务抽取出来，作为独立的服务，逐渐形成稳定的服务中心，使前端应用能更快速的响应多变的市场需求。此时，用于提高业务复用及整合的**分布式服务框架(RPC)**是关键。

流动计算架构

当服务越来越多，容量的评估，小服务资源的浪费等问题逐渐显现，此时需增加一个调度中心基于访问压力实时管理集群容量，提高集群利用率。此时，用于**提高机器利用率的资源调度和治理中心(SOA)[ Service Oriented Architecture]**是关键。

3、RPC

什么叫RPC

RPC（Remote Procedure Call）是指远程过程调用，是一种进程间通信方式，他是一种技术的思想，而不是规范。它允许程序调用另一个地址空间（通常是共享网络的另一台机器上）的过程或函数，而不用程序员显式编码这个远程调用的细节。即程序员无论是调用本地的还是远程的函数，本质上编写的调用代码基本相同。

RPC基本原理

调用过程：

RPC两个核心模块：通讯，序列化。

二、Dubbo 核心概念

---

1、简介

Apache Dubbo 是一款高性能、轻量级的开源 Java RPC 框架，它提供了三大核心能力：面向接口的远程方法调用、智能容错和负载均衡、以及服务自动注册和发现。

官网：http://dubbo.apache.org/

2、基本概念

• 服务提供者（Provider）：暴露服务的服务提供方，服务提供者在启动时，向注册中心注册自己提供的服务。
• 服务消费者（Consumer）：调用远程服务的服务消费方，服务消费者在启动时，向注册中心订阅自己所需的服务，服务消费者，从提供者地址列表中，基于软负载均衡算法，选一台提供者进行调用，如果调用失败，再选另一台调用。
• 注册中心（Registry）：注册中心返回服务提供者地址列表给消费者，如果有变更，注册中心将基于长连接推送变更数据给消费者。
• 监控中心（Monitor）：服务消费者和提供者，在内存中累计调用次数和调用时间，定时每分钟发送一次统计数据到监控中心。

调用关系说明

• 服务容器负责启动，加载，运行服务提供者。
• 服务提供者在启动时，向注册中心注册自己提供的服务。
• 服务消费者在启动时，向注册中心订阅自己所需的服务。
• 注册中心返回服务提供者地址列表给消费者，如果有变更，注册中心将基于长连接推送变更数据给消费者。
• 服务消费者，从提供者地址列表中，基于软负载均衡算法，选一台提供者进行调用，如果调用失败，再选另一台调用。
• 服务消费者和提供者，在内存中累计调用次数和调用时间，定时每分钟发送一次统计数据到监控中心。

3、dubbo环境搭建

【windows】- 安装zookeeper

1）、下载zookeeper

网址 https://archive.apache.org/dist/zookeeper/zookeeper-3.4.13/

2）、解压zookeeper

解压运行 zkServer.cmd ，初次运行会报错，没有 zoo.cfg 配置文件

3）、修改 zoo.cfg 配置文件

将 conf 下的 zoo_sample.cfg 复制一份改名为 zoo.cfg 即可。

注意几个重要位置：

• dataDir=./ 临时数据存储的目录（可写相对路径）
• clientPort=2181 zookeeper 的端口号

修改完成后再次启动 zookeeper

4）、使用 zkCli.cmd 测试

• ls /：列出zookeeper根下保存的所有节点
• create –e /test 123：创建一个 tesst 节点，值为123
• get /test：获取 /test 节点的值

【windows】- 安装 dubbo-admin 管理控制台

dubbo本身并不是一个服务软件。它其实就是一个jar包能够帮你的java程序连接到zookeeper，并利用zookeeper消费、提供服务。所以你不用在Linux上启动什么dubbo服务。

但是为了让用户更好的管理监控众多的dubbo服务，官方提供了一个可视化的监控程序，不过这个监控即使不装也不影响使用。

1）、下载dubbo-admin

https://github.com/apache/incubator-dubbo-ops

2）、进入目录，修改 dubbo-admin 配置

修改 src\main\resources\application.properties 指定 zookeeper 地址:

spring.guest.password=guest
dubbo.registry.address=zookeeper://127.0.0.1:2181

3）、打包dubbo-admin

mvn clean package -Dmaven.test.skip=true 

4）、运行dubbo-admin

java -jar dubbo-admin-0.0.1-SNAPSHOT.jar

注意：有可能控制台看着启动了，但是网页打不开，需要在控制台按下 ctrl + c 即可

默认使用 root/root 登陆。

【linux】- 安装 zookeeper

1）、下载 zookeeper

网址 https://archive.apache.org/dist/zookeeper/zookeeper-3.4.11/

wget https://archive.apache.org/dist/zookeeper/zookeeper-3.4.11/zookeeper-3.4.11.tar.gz

2）、解压

tar -zxvf zookeeper-3.4.11.tar.gz

3）、移动指定位置并改名为 zookeeper

mv zookeeper-3.4.11 /usr/local/zookeeper

4）、开机启动 zookeeper

在 /etc/init.d/ 目录下创建 zookeeper 文件，并添加如下脚本内容：

#!/bin/bash
#chkconfig:2345 20 90
#description:zookeeper
#processname:zookeeper
ZK_PATH=/usr/local/zookeeper	# zookeeper 所在路径
export JAVA_HOME=/usr/local/java/jdk1.8	 # Java 所在路径
case $1 in
         start) sh  $ZK_PATH/bin/zkServer.sh start;;
         stop)  sh  $ZK_PATH/bin/zkServer.sh stop;;
         status) sh  $ZK_PATH/bin/zkServer.sh status;;
		restart) sh $ZK_PATH/bin/zkServer.sh restart;;
         *)  echo "require start|stop|status|restart"  ;;
esac

把脚本注册为 Service

chkconfig --add zookeeper
chkconfig --list

增加权限

chmod +x /etc/init.d/zookeeper
ll /etc/init.d/

5）、配置 zookeeper

初始化 zookeeper 配置文件：拷贝 /usr/local/zookeeper/conf/zoo_sample.cfg 到同一个目录下改个名字叫 zoo.cfg

cp zoo_sample.cfg zoo.cfg

启动 zookeeper

service zookeeper start

【linux】- 安装 dubbo-admin 管理控制台

流程和 window 下安装一致。

三、整合 Dubbo

---

1、服务提供者

引入 dubbo 依赖：

<!-- 引入dubbo -->
<dependency>
    <groupId>com.alibaba</groupId>
    <artifactId>dubbo</artifactId>
    <version>2.6.2</version>
</dependency>

<!-- 
	由于我们使用zookeeper作为注册中心，所以需要操作zookeeper
	dubbo 2.6以前的版本引入zkclient操作zookeeper 
	dubbo 2.6及以后的版本引入curator操作zookeeper
	下面两个zk客户端根据dubbo版本2选1即可
-->
<dependency>
    <groupId>com.101tec</groupId>
    <artifactId>zkclient</artifactId>
    <version>0.10</version>
</dependency>

<!-- curator-framework -->
<dependency>
    <groupId>org.apache.curator</groupId>
    <artifactId>curator-framework</artifactId>
    <version>2.12.0</version>
</dependency>

配置服务提供者：

<!--当前应用的名字  -->
<dubbo:application name="mall-user"></dubbo:application>
<!--指定注册中心的地址  -->
<dubbo:registry address="zookeeper://118.24.44.169:2181" />
<!--使用dubbo协议，将服务暴露在20880端口  -->
<dubbo:protocol name="dubbo" port="20880" />
<!-- 指定需要暴露的服务 -->
<dubbo:service interface="com.wang.mall.service.UserService" ref="userServiceImpl" />

启动服务：

public static void main(String[] args) throws IOException {
    ClassPathXmlApplicationContext context = 
        new ClassPathXmlApplicationContext("classpath:spring-beans.xml");
    System.in.read(); 
}

2、服务消费者

引入 dubbo 依赖：

<!-- 引入dubbo -->
<dependency>
    <groupId>com.alibaba</groupId>
    <artifactId>dubbo</artifactId>
    <version>2.6.2</version>
</dependency>
<!-- 由于我们使用zookeeper作为注册中心，所以需要引入zkclient和curator操作zookeeper -->
<dependency>
    <groupId>com.101tec</groupId>
    <artifactId>zkclient</artifactId>
    <version>0.10</version>
</dependency>
<!-- curator-framework -->
<dependency>
    <groupId>org.apache.curator</groupId>
    <artifactId>curator-framework</artifactId>
    <version>2.12.0</version>
</dependency>

配置消费者信息：

<!-- 应用名 -->
<dubbo:application name="mall-order-web"></dubbo:application>
<!-- 指定注册中心地址 -->
<dubbo:registry address="zookeeper://118.24.44.169:2181" />
<!-- 生成远程服务代理，可以和本地bean一样使用demoService -->
<dubbo:reference id="userService" interface="com.wang.mall.service.UserService"></dubbo:reference>

3、配置监控中心

所有服务配置连接监控中心，进行监控统计：

<!-- 监控中心协议，如果为protocol="registry"，表示从注册中心发现监控中心地址，否则直连监控中心 -->
<dubbo:monitor protocol="registry"></dubbo:monitor>

Simple Monitor 挂掉不会影响到 Consumer 和 Provider 之间的调用，所以用于生产环境不会有风险。

Simple Monitor 采用磁盘存储统计信息，请注意安装机器的磁盘限制，如果要集群，建议用mount共享磁盘。

4、整合SpringBoot

引入 spring-boot-starter 以及 dubbo 和 curator 的依赖：

<dependency>
    <groupId>com.alibaba.boot</groupId>
    <artifactId>dubbo-spring-boot-starter</artifactId>
    <version>0.2.0</version>
</dependency>

注意starter版本适配：

Versions	Java	Spring Boot	Dubbo
0.2.0	1.8+	2.0.x	2.6.2 +
0.1.1	1.7+	1.5.x	2.6.2 +

配置 application.properties

# 提供者配置：
dubbo.application.name=mall-user
dubbo.registry.protocol=zookeeper
dubbo.registry.address=192.168.67.159:2181
dubbo.scan.base-package=com.wang.mall
dubbo.protocol.name=dubbo

# application.name就是服务名，不能跟别的dubbo提供端重复
# registry.protocol 是指定注册中心协议
# registry.address 是注册中心的地址加端口号
# protocol.name 是分布式固定是dubbo,不要改。
# base-package  注解方式要扫描的包

# 消费者配置：
dubbo.application.name=mall-order-web
dubbo.registry.protocol=zookeeper
dubbo.registry.address=192.168.67.159:2181
dubbo.scan.base-package=com.wang.mall
dubbo.protocol.name=dubbo

dubbo 注解

@Service、@Reference

如果没有在配置中写 dubbo.scan.base-package，还需要使用 @EnableDubbo 注解

四、Dubbo 配置

---

1、配置原则

JVM 启动 -D 参数优先，这样可以使用户在部署和启动时进行参数重写，比如在启动时需改变协议的端口。

XML 次之，如果在 XML 中有配置，则 dubbo.properties 中的相应配置项无效。

Properties 最后，相当于缺省值，只有 XML 没有配置时，dubbo.properties 的相应配置项才会生效，通常用于共享公共配置，比如应用名。

2、重试次数

失败自动切换，当出现失败，重试其它服务器，但重试会带来更长延迟。可通过 retries=“2” 来设置重试次数(不含第一次)。

<!-- 重试次数配置如下：-->
<dubbo:service retries="2" />
<!-- 或者：-->
<dubbo:reference retries="2" />
<!-- 或者：-->
<dubbo:reference>
    <dubbo:method name="findFoo" retries="2" />
</dubbo:reference>

3、超时时间

由于网络或服务端不可靠，会导致调用出现一种不确定的中间状态（超时）。为了避免超时导致客户端资源（线程）挂起耗尽，必须设置超时时间。

Dubbo消费端

<!-- 全局超时配置 -->
<dubbo:consumer timeout="5000" />

<!-- 指定接口以及特定方法超时配置 -->
<dubbo:reference interface="com.foo.BarService" timeout="2000">
    <dubbo:method name="sayHello" timeout="3000" />
</dubbo:reference>

Dubbo服务端

<!-- 全局超时配置 -->
<dubbo:provider timeout="5000" />

<!-- 指定接口以及特定方法超时配置 -->
<dubbo:provider interface="com.foo.BarService" timeout="2000">
    <dubbo:method name="sayHello" timeout="3000" />
</dubbo:provider>

配置原则

dubbo推荐在Provider上尽量多配置Consumer端属性：

• 1、作服务的提供者，比服务使用方更清楚服务性能参数，如调用的超时时间，合理的重试次数，等等
• 2、在 Provider 配置后，Consumer 不配置则会使用 Provider 的配置值，即 Provider 配置可以作为 onsumer 的缺省值。否则，Consumer 会使用 Consumer 端的全局设置，这对于 Provider 不可控的，并且往往是不合理的

配置的覆盖规则：

• 1. 方法级配置别优于接口级别，即小 Scope 优先
• 2. Consumer 端配置 优于 Provider 配置优于全局配置，
• 3. 最后是 Dubbo Hard Code 的配置值（见配置文档）

4、版本号

当一个接口实现，出现不兼容升级时，可以用版本号过渡，版本号不同的服务相互间不引用。

可以按照以下的步骤进行版本迁移：

• 在低压力时间段，先升级一半提供者为新版本
• 再将所有消费者升级为新版本
• 然后将剩下的一半提供者升级为新版本

<!-- 老版本服务提供者配置：-->
<dubbo:service interface="com.foo.BarService" version="1.0.0" />

<!-- 新版本服务提供者配置：-->
<dubbo:service interface="com.foo.BarService" version="2.0.0" />

<!-- 老版本服务消费者配置：-->
<dubbo:reference id="barService" interface="com.foo.BarService" version="1.0.0" />

<!-- 新版本服务消费者配置：-->
<dubbo:reference id="barService" interface="com.foo.BarService" version="2.0.0" />

<!-- 如果不需要区分版本，可以按照以下的方式配置：-->
<dubbo:reference id="barService" interface="com.foo.BarService" version="*" />

五、高可用

---

1、zookeeper 宕机与 dubbo 直连

现象：zookeeper注册中心宕机，还可以消费dubbo暴露的服务。

原因是健壮性：

• 监控中心宕掉不影响使用，只是丢失部分采样数据
• 数据库宕掉后，注册中心仍能通过缓存提供服务列表查询，但不能注册新服务
• 注册中心对等集群，任意一台宕掉后，将自动切换到另一台
• 注册中心全部宕掉后，服务提供者和服务消费者仍能通过本地缓存通讯
• 服务提供者无状态，任意一台宕掉后，不影响使用
• 服务提供者全部宕掉后，服务消费者应用将无法使用，并无限次重连等待服务提供者恢复

高可用：通过设计，减少系统不能提供服务的时间。

2、集群下dubbo负载均衡配置

在集群负载均衡时，Dubbo 提供了多种均衡策略，缺省为 random 随机调用。

负载均衡策略：

• Random LoadBalance

  随机，按权重设置随机概率。

  在一个截面上碰撞的概率高，但调用量越大分布越均匀，而且按概率使用权重后也比较均匀，有利于动态调整提供者权重。

• RoundRobin LoadBalance

  轮循，按公约后的权重设置轮循比率。

  存在慢的提供者累积请求的问题，比如：第二台机器很慢，但没挂，当请求调到第二台时就卡在那，久而久之，所有请求都卡在调到第二台上。

• LeastActive LoadBalance

  最少活跃调用数，相同活跃数的随机，活跃数指调用前后计数差。

  使慢的提供者收到更少请求，因为越慢的提供者的调用前后计数差会越大。

• ConsistentHash LoadBalance

  一致性 Hash，相同参数的请求总是发到同一提供者。

  当某一台提供者挂时，原本发往该提供者的请求，基于虚拟节点，平摊到其它提供者，不会引起剧烈变动。算法参见：http://en.wikipedia.org/wiki/Consistent_hashing

  缺省只对第一个参数 Hash，如果要修改，请配置 <dubbo:parameter key=“hash.arguments” value=“0,1” />

  缺省用 160 份虚拟节点，如果要修改，请配置 <dubbo:parameter key=“hash.nodes” value=“320” />