1.分布式基础理论
1.1 什么是分布式系统?
《分布式系统原理与泛型》中定义:分布式系统是若干独立计算机的集合,这些计算机对于用户来说就像单个相关系统。
分布式系统(distributed system)是建立在网络之上的软件系统。
1.2 发展演变
阶段一:单一应用架构
使用场景:网站流量很小,所有功能部署在一个应用,以减少部署节点和成本。此时,用于简化增删查改工作量的数据访问框架(ORM)为关键。
阶段二:垂直应用架构
特点:① 界面+业务逻辑的实现分离 ②应用不可能完全独立,大量的应用之间需要交互
阶段三:分布式服务架构
特点:抽取出核心业务,客户端与服务器之间调用方式为RPC(远程过程调用)
阶段四:流动计算架构
1.3 RPC
1.3.1 概念
RPC【Remote Procedure Call】是指远程过程调用,是一种进程间通信方式,他是一种技术的思想,而不是规范。它允许程序调用另一个地址空间(通常是共享网络的另一台机器上)的过程或函数,而不用程序员显式编码这个远程调用的细节。即程序员无论是调用本地的还是远程的函数,本质上编写的调用代码基本相同。
1.3.2 基本原理
本质是客户端想调用服务端的某一方法时,建立一个socket链接进行通信。与客户端向服务端建立连接类似。
详细过程:
可知,影响RPC框架的性能和优化核心在于两个点:1.通讯(建立连接的快慢) 2.序列化的速度
2. Dubbo核心概念
2.1 简介
Apache Dubbo (incubating) |ˈdʌbəʊ| 是一款高性能、轻量级的开源Java RPC框架,它提供了三大核心能力:面向接口的远程方法调用,智能容错和负载均衡,以及服务自动注册和发现。
2.2 基本概念
2.2.1 注册中心
所有业务服务将注册到注册中心,业务消费者可以从注册中心中获取服务,同时注册中心会把服务的变更(譬如支持某服务的2号服务器故障)通知业务消费者。
2.2.2 基本架构
Dubbo架构中包含5个组成部分:消费者,注册中心,服务提供者,监控中心。
关系:Dubbo一启动,所有服务都会注册到注册中心,消费者可以从注册中心订阅服务,而注册中心会将服务的变更实时通知消费者。同时,消费者和生产者在内存中累计调用次数和时间,定时每分钟发送给监控中心。
三、高可用
概念:通过设计,减少系统不能提供服务的时间
3.1.zookeeper宕机和dubbo直连
现象:zookeeper注册中心宕机,还可以消费dubbo暴露的服务。
原因:
- 监控中心宕掉不影响使用,只是丢失部分采样数据
- 数据库宕掉后,注册中心仍能通过缓存提供服务列表查询,但不能注册新服务
- 注册中心对等集群,任意一台宕掉后,将自动切换到另一台
- 注册中心全部宕掉后,服务提供者和服务消费者仍能通过本地缓存通讯
- 服务提供者无状态,任意一台宕掉后,不影响使用
- 服务提供者全部宕掉后,服务消费者应用将无法使用,并无限次重连等待服务提供者恢复
3.2 集群下dubbo负载均衡配置
4种负载均衡机制:
1.基于权重的随机负载均衡机制:(dubbo默认使用)
随机,按权重设置随机概率。
在一个截面上碰撞的概率高,但调用量越大分布越均匀,而且按概率使用权重后也比较均匀,有利于动态调整提供者权重。
2.基于权重的轮询负载均衡机制
轮循,按公约后的权重设置轮循比率。
存在慢的提供者累积请求的问题,比如:第二台机器很慢,但没挂,当请求调到第二台时就卡在那,久而久之,所有请求都卡在调到第二台上。
3.最少活跃数-负载均衡机制(每一次都调用速度最快的服务)
最少活跃调用数,相同活跃数的随机,活跃数指调用前后计数差。
使慢的提供者收到更少请求,因为越慢的提供者的调用前后计数差会越大。
4.一致性哈希-负载均衡机制(通过计算Hash值来确定某一个请求应该落到哪一个服务)
一致性 Hash,相同参数的请求总是发到同一提供者。
当某一台提供者挂时,原本发往该提供者的请求,基于虚拟节点,平摊到其它提供者,不会引起剧烈变动。算法参见:http://en.wikipedia.org/wiki/Consistent_hashing
缺省只对第一个参数 Hash,如果要修改,请配置 <dubbo:parameter key="hash.arguments" value="0,1" />
缺省用 160 份虚拟节点,如果要修改,请配置 <dubbo:parameter key="hash.nodes" value="320" />
四种负载均衡算法都在AbstractLaodBalance类中。
3.3 整合hystrix,服务熔断与服务降级
3.3.1 服务降级
概念:当服务器压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有策略的不处理或换种简单的方式处理,从而释放服务器资源以保证核心交易正常运作或高效运作。
降级手段:
- mock=force:return+null 表示消费方对该服务的方法调用都直接返回 null 值,不发起远程调用。用来屏蔽不重要服务不可用时对调用方的影响。
- 还可以改为 mock=fail:return+null 表示消费方对该服务的方法调用在失败后,再返回 null 值,不抛异常。用来容忍不重要服务不稳定时对调用方的影响。
可直接在dubbo admin控制台中对服务进行操作,屏蔽为第一种,容错为第二种策略。(在消费者端处理)
3.3.2 集群容错
在集群调用失败时,Dubbo 提供了多种容错方案,缺省为 failover 重试。
集群容错模式:
Failover Cluster(dubbo默认)
失败自动切换,当出现失败,重试其它服务器。通常用于读操作,但重试会带来更长延迟。可通过 retries="2" 来设置重试次数(不含第一次)。
重试次数配置如下:
<dubbo:service retries="2" />
或
<dubbo:reference retries="2" />
或
<dubbo:reference>
<dubbo:method name="findFoo" retries="2" />
</dubbo:reference>
Failfast Cluster
快速失败,只发起一次调用,失败立即报错。通常用于非幂等性的写操作,比如新增记录。
Failsafe Cluster
失败安全,出现异常时,直接忽略。通常用于写入审计日志等操作。
Failback Cluster
失败自动恢复,后台记录失败请求,定时重发。通常用于消息通知操作。
Forking Cluster
并行调用多个服务器,只要一个成功即返回。通常用于实时性要求较高的读操作,但需要浪费更多服务资源。可通过 forks="2" 来设置最大并行数。
Broadcast Cluster
广播调用所有提供者,逐个调用,任意一台报错则报错 [2]。通常用于通知所有提供者更新缓存或日志等本地资源信息。
四、dubbo原理
1.RPC原理
一次完整的调用流程:
1)服务消费方(client)调用以本地调用方式调用服务;
2)client stub接收到调用后负责将方法、参数等组装成能够进行网络传输的消息体;
3)client stub找到服务地址,并将消息发送到服务端;
4)server stub收到消息后进行解码;
5)server stub根据解码结果调用本地的服务;
6)本地服务执行并将结果返回给server stub;
7)server stub将返回结果打包成消息并发送至消费方;
8)client stub接收到消息,并进行解码;
9)服务消费方得到最终结果。
RPC框架的目标就是要2~8这些步骤都封装起来,这些细节对用户来说是透明的,不可见的。
2.Netty通信原理
1.Netty:Netty是一个异步事件驱动的网络应用程序框架, 用于快速开发可维护的高性能协议服务器和客户端。它极大地简化并简化了TCP和UDP套接字服务器等网络编程。
2.BIO 和 NBOI(阻塞式IO 和非阻塞式IO)
BIO的每个通信都建立一个任务都建立一个Socket通信。
(BIO)
NBIO 通过Channel(通道),每个通道都负责接收不同类型的任务,通过选择器来选择感兴趣的任务。
(NBIO)
名词解释:
Selector 一般称 为选择器 ,也可以翻译为 多路复用器,
Connect(连接就绪)、Accept(接受就绪)、Read(读就绪)、Write(写就绪)
Netty基本原理:
3.服务暴露
4.服务引用(最终会创建一个代理对象)
5.服务调用