分布式架构相关概念介绍

集群

不同的人做同一件事情的同一部分为了同一个目的,如同一个公司的两个java程序员就是集群,如相同的代码部署到不同服务器就是集群。

负载均衡

负载均衡对应的就是集群,协调集群中单个服务器的处理量,例如协调与均衡两个java程序员(集群)的工作,根据工作能力来确定工作量,保证没人偷懒也没人累死。

负载均衡类型

客户端负载均衡(如Ribbon)
服务实例的清单在客户端,客户端进行负载均衡算法分配。
(客户端可以从Eureka Server中得到一份服务清单,在发送请求时通过负载均衡算法,在多个服务器之间选择一个进行访问)
服务端负载均衡(如Nginx)
服务实例的清单在服务端,服务器进行负载均衡算法分配

负载均衡策略

1)轮询
2)随机
3)一致性哈希
4)哈希
5)加权

分布式

不同的人做同一件事情里的不同部分为了同一个目的,如同一个公司一个前端程序员一个java程序员就是分布式,如不同的代码部署到不同的服务器为了实现同一个功能就是分布式。

通常,分布式和集群在大中型项目架构中会同时存在,在微服务项目中,相同的服务就是集群,不同的服务就是分布式。

SOA

面向服务的分布式架构,是分布式架构的一种设计思想,SOA架构设计思想中有一个ESB企业服务总线的概念,ESB用于协调各个服务之间的调用。

微服务

数服务架构是一种架构模式,它提倡将单一应用程序划分成一组小的服务,服务之间互相协调、互相配合,为用户提供最终价值。每个服务运行在其独立的进程中,服务与服务间采用轻量级的通信机制互相协作(通常是基于HTTP协议的 RESTfulAPI)。每个服务都围绕着具本业务进行构建,并且能够被独立的部署到生产环境、类生产环境等。另外,应当尽量避免统一的、集中式的服务管理机制,对具体的个服务而善根据业务上下文,选择合适的语言、工具对其进行构建。

微服务是SOA是一脉相承的,也可以理解成SOA里特殊的子集,微服务的特殊在于去中心化(没有ESB企业服务总线)、细粒度。

SOA、微服务导致的问题

1)单体应用拆分为分布式系统后,进程间的通讯机制和故障处理措施变的更加复杂。
2)系统微服务化后,一个看似简单的功能,内部可能需要调用多个服务并操作多个数据库实现,服务调用的分布式事务问题变的非常突出。
3)微服务数量众多,其测试、部署、监控等都变的更加困难。
随着RPC框架的成熟,第一个问题已经逐渐得到解决。例如dubbo可以支持多种通讯协议,springcloud可以非常好的支持restful调用。对于第三个问题,随着docker、devops技术的发展以及各公有云paas平台自动化运维工具的推出,微服务的测试、部署与运维会变得越来越容易。
而对于第二个问题,现在还没有通用方案很好的解决微服务产生的事务问题。分布式事务已经成为微服务落地最大的阻碍,也是最具挑战性的一个技术难题。

分区

分布式系统中节点之间的通信是通过网络来进行的,如果网络发生故障,使得有些节点之间不连通了,整个网络就分成了几块区域,数据散布在这些不连通的区域中,这些不同的网络区域这就叫分区。

服务治理

服务治理的核心功能就是服务调用者不用直接访问服务提供者的ip地址,而是通过服务名的来访问,用来解决万一服务提供者修改ip地址时,调用者还要改代码。

分布式事务

分布式事务非常复杂,可以查询下面文章
https://www.cnblogs.com/jiangyu666/p/8522547.html
https://www.cnblogs.com/cblogs/p/9432652.html

ACID

事务四特性,原子性,一致性,隔离性,永久性。
详见:https://blog.csdn.net/u012643122/article/details/92836000

CAP

CAP定理,又被叫作布鲁尔定理。
C (一致性):对某个指定的客户端来说,读操作能返回最新的写操作。对于数据分布在不同节点上的数据上来说,如果在某个节点更新了数据,那么在其他节点如果都能读取到这个最新的数据,那么就称为强一致,如果有某个节点没有读取到,那就是分布式不一致。
A (可用性):非故障的节点在合理的时间内返回合理的响应(不是错误和超时的响应)。可用性的两个关键一个是合理的时间,一个是合理的响应。合理的时间指的是请求不能无限被阻塞,应该在合理的时间给出返回。合理的响应指的是系统应该明确返回结果并且结果是正确的,这里的正确指的是比如应该返回50,而不是返回40。
P (分区容错性):当出现网络分区后,系统能够继续工作。打个比方,这里个集群有多台机器,有台机器网络出现了问题,但是这个集群仍然可以正常工作。
三者不能共有,在分布式系统中,网络无法100%可靠,分区其实是一个必然现象,如果我们选择了CA而放弃了P,那么当发生分区现象时,为了保证一致性,这个时候必须拒绝请求,但是A又不允许,所以分布式系统理论上不可能选择CA架构,只能选择CP或者AP架构。
对于CP来说,放弃可用性,追求一致性和分区容错性,zookeeper其实就是追求的强一致。
对于AP来说,放弃一致性(这里说的一致性是强一致性),追求分区容错性和可用性,这是很多分布式系统设计时的选择,后面的BASE也是根据AP来扩展。
顺便一提,CAP理论中是忽略网络延迟,也就是当事务提交时,从节点A复制到节点B,但是在现实中这个是明显不可能的,所以总会有一定的时间是不一致。同时CAP中选择两个,比如你选择了CP,并不是叫你放弃A。因为P出现的概率实在是太小了,大部分的时间你仍然需要保证CA。就算分区出现了你也要为后来的A做准备,比如通过一些日志的手段,使其他机器恢复至可用。

BASE

BASE 是 Basically Available(基本可用)、Soft state(软状态)和 Eventually consistent (最终一致性)三个短语的缩写。是对CAP中AP的一个扩展
基本可用:分布式系统在出现故障时,允许损失部分可用功能,保证核心功能可用。
软状态:允许系统中存在中间状态,这个状态不影响系统可用性,这里指的是CAP中的不一致。
最终一致:最终一致是指经过一段时间后,所有节点数据都将会达到一致。
BASE解决了CAP中理论没有网络延迟,在BASE中用软状态和最终一致,保证了延迟后的一致性。BASE和 ACID 是相反的,它完全不同于ACID的强一致性模型,而是通过牺牲强一致性来获得可用性,并允许数据在一段时间内是不一致的,但最终达到一致状态。

分布式事务解决方案:

2PC:基于XA协议的两阶段提交方案

分布式系统中从理论上讲两台机器是无法达到一致性状态的,因此引入一个单点进行协调。由全局事务管理器管理和协调的事务可以跨越多个资源和进程。
全局事务管理器与数据库通过 XA 接口规范,使用两阶段提交来完成一个全局事务, XA 规范的基础是两阶段提交协议。
在这里插入图片描述
在XA协议中分为两阶段:
第一阶段:事务管理器要求每个涉及到事务的数据库预提交(precommit)此操作,并反映是否可以提交.
第二阶段:事务协调器要求每个数据库提交数据,或者回滚数据。
优点: 尽量保证了数据的强一致,实现成本较低,在各大主流数据库都有自己实现,对于MySQL是从5.5开始支持。
缺点:
单点问题:事务管理器在整个流程中扮演的角色很关键,如果其宕机,比如在第一阶段已经完成,在第二阶段正准备提交的时候事务管理器宕机,资源管理器就会一直阻塞,导致数据库无法使用。
同步阻塞:在准备就绪之后,资源管理器中的资源一直处于阻塞,直到提交完成,释放资源。
数据不一致:两阶段提交协议虽然为分布式数据强一致性所设计,但仍然存在数据不一致性的可能,比如在第二阶段中,假设协调者发出了事务commit的通知,但是因为网络问题该通知仅被一部分参与者所收到并执行了commit操作,其余的参与者则因为没有收到通知一直处于阻塞状态,这时候就产生了数据的不一致性。
总的来说,XA协议比较简单,成本较低,但是其单点问题,以及由于同步阻塞,不能支持高并发,锁定资源时间长,对性能影响很大,基本不适合解决微服务事务问题。

TCC

TCC方案在电商、金融领域落地较多。TCC方案其实是两阶段提交的一种改进。其将整个业务逻辑的每个分支显式的分成了Try、Confirm、Cancel三个操作。Try部分完成业务的准备工作,confirm部分完成业务的提交,cancel部分完成事务的回滚。基本原理如下图所示。
在这里插入图片描述
事务开始时,业务应用会向事务协调器注册启动事务。之后业务应用会调用所有服务的try接口,完成一阶段准备。之后事务协调器会根据try接口返回情况,决定调用confirm接口或者cancel接口。如果接口调用失败,会进行重试。
TCC方案让应用自己定义数据库操作的粒度,使得降低锁冲突、提高吞吐量成为可能。
TCC事务机制相比于上面介绍的XA,解决了其几个缺点: 1.解决了协调者单点,由主业务方发起并完成这个业务活动。业务活动管理器也变成多点,引入集群。 2.同步阻塞:引入超时,超时后进行补偿,并且不会锁定整个资源,将资源转换为业务逻辑形式,粒度变小。 3.数据一致性,有了补偿机制之后,由业务活动管理器控制一致性。
当然TCC方案也有不足之处,集中表现在以下两个方面:
对应用的侵入性强。业务逻辑的每个分支都需要实现try、confirm、cancel三个操作,应用侵入性较强,改造成本高。
实现难度较大。需要按照网络状态、系统故障等不同的失败原因实现不同的回滚策略。为了满足一致性的要求,confirm和cancel接口必须实现幂等。
上述原因导致TCC方案大多被研发实力较强、有迫切需求的大公司所采用。微服务倡导服务的轻量化、易部署,而TCC方案中很多事务的处理逻辑需要应用自己编码实现,复杂且开发量大。

本地消息表

本地消息表这个方案最初是ebay提出的 ebay的完整方案https://queue.acm.org/detail.cfm?id=1394128。
此方案的核心是将需要分布式处理的任务通过消息日志的方式来异步执行。消息日志可以存储到本地文本、数据库或消息队列,再通过业务规则自动或人工发起重试。人工重试更多的是应用于支付场景,通过对账系统对事后问题的处理。
在这里插入图片描述
对于本地消息队列来说核心是把大事务转变为小事务。还是举上面用100元去买一瓶水的例子。
1.当你扣钱的时候,你需要在你扣钱的服务器上新增加一个本地消息表,你需要把你扣钱和写入减去水的库存到本地消息表放入同一个事务(依靠数据库本地事务保证一致性。
2.这个时候有个定时任务去轮询这个本地事务表,把没有发送的消息,扔给商品库存服务器,叫他减去水的库存,到达商品服务器之后这个时候得先写入这个服务器的事务表,然后进行扣减,扣减成功后,更新事务表中的状态。
3.商品服务器通过定时任务扫描消息表或者直接通知扣钱服务器,扣钱服务器本地消息表进行状态更新。
4.针对一些异常情况,定时扫描未成功处理的消息,进行重新发送,在商品服务器接到消息之后,首先判断是否是重复的,如果已经接收,在判断是否执行,如果执行在马上又进行通知事务,如果未执行,需要重新执行需要由业务保证幂等,也就是不会多扣一瓶水。
本地消息队列是BASE理论,是最终一致模型,适用于对一致性要求不高的。实现这个模型时需要注意重试的幂等。

MQ事务

在RocketMQ中实现了分布式事务,实际上其实是对本地消息表的一个封装,将本地消息表移动到了MQ内部,下面简单介绍一下MQ事务,如果想对其详细了解可以参考: https://www.jianshu.com/p/453c6e7ff81c。
在这里插入图片描述
基本流程如下: 第一阶段Prepared消息,会拿到消息的地址。
第二阶段执行本地事务。
第三阶段通过第一阶段拿到的地址去访问消息,并修改状态。消息接受者就能使用这个消息。
如果确认消息失败,在RocketMq Broker中提供了定时扫描没有更新状态的消息,如果有消息没有得到确认,会向消息发送者发送消息,来判断是否提交,在rocketmq中是以listener的形式给发送者,用来处理。
在这里插入图片描述
如果消费超时,则需要一直重试,消息接收端需要保证幂等。如果消息消费失败,这个就需要人工进行处理,因为这个概率较低,如果为了这种小概率时间而设计这个复杂的流程反而得不偿失。

Saga事务

Saga是30年前一篇数据库伦理提到的一个概念。其核心思想是将长事务拆分为多个本地短事务,由Saga事务协调器协调,如果正常结束那就正常完成,如果某个步骤失败,则根据相反顺序一次调用补偿操作。 Saga的组成:
每个Saga由一系列sub-transaction Ti 组成 每个Ti 都有对应的补偿动作Ci,补偿动作用于撤销Ti造成的结果,这里的每个T,都是一个本地事务。 可以看到,和TCC相比,Saga没有“预留 try”动作,它的Ti就是直接提交到库。
Saga的执行顺序有两种:
T1, T2, T3, …, Tn
T1, T2, …, Tj, Cj,…, C2, C1,其中0 < j < n Saga定义了两种恢复策略:
向后恢复,即上面提到的第二种执行顺序,其中j是发生错误的sub-transaction,这种做法的效果是撤销掉之前所有成功的sub-transation,使得整个Saga的执行结果撤销。 向前恢复,适用于必须要成功的场景,执行顺序是类似于这样的:T1, T2, …, Tj(失败), Tj(重试),…, Tn,其中j是发生错误的sub-transaction。该情况下不需要Ci。
这里要注意的是,在saga模式中不能保证隔离性,因为没有锁住资源,其他事务依然可以覆盖或者影响当前事务。
还是拿100元买一瓶水的例子来说,这里定义
T1=扣100元 T2=给用户加一瓶水 T3=减库存一瓶水
C1=加100元 C2=给用户减一瓶水 C3=给库存加一瓶水
我们一次进行T1,T2,T3如果发生问题,就执行发生问题的C操作的反向。 上面说到的隔离性的问题会出现在,如果执行到T3这个时候需要执行回滚,但是这个用户已经把水喝了(另外一个事务),回滚的时候就会发现,无法给用户减一瓶水了。这就是事务之间没有隔离性的问题
可以看见saga模式没有隔离性的影响还是较大,可以参照华为的解决方案:从业务层面入手加入一 Session 以及锁的机制来保证能够串行化操作资源。也可以在业务层面通过预先冻结资金的方式隔离这部分资源, 最后在业务操作的过程中可以通过及时读取当前状态的方式获取到最新的更新。
具体实例:可以参考华为的servicecomb。

restful

一种http接口设计风格,简单来说就是/user/15/name这种,把参数直接放到url中,而不是以?=这种形式把参数放在后面。

消息队列

MQ全称为Message Queue,又叫消息中间件, 消息队列是一种应用程序对应用程序的通信方法。MQ是消费-生产者模型的一个典型的代表,一端往消息队列中不断写入消息,而另一端则可以读取队列中的消息。

消息中间件最主要的作用是解耦,中间件最标准的用法是生产者生产消息传送到队列,消费者从队列中拿取消息并处理,生产者不用关心是谁来消费,消费者不用关心谁在生产消息,从而达到解耦的目的。在分布式的系统中,消息队列也会被用在很多其它的方面,比如:分布式事务的支持,RPC的调用等等。

断路器

高并发的情况下,为了快速响应和快速释放线程资源,服务就必须保证尽量快的处理完请求,如果一个服务在高并发下调用另一个“坏的”服务,则会造成所有线程都阻塞和延迟,无法及时响应也无法释放线程资源,导致资源耗尽内存溢出,进而造成当前服务也“坏掉”,如果有别的服务调用当前服务,那么调用者也会跟着“坏掉”,从而导致整个分布式系统宕机。
断路器就是为了解决分布式系统中,单个服务的不可用造成的雪崩,跟电路中的保险丝效果类似。

正向代理

正向代理的代理服务器代理的是客户端,如用来翻墙代理服务器,可以用于访问国外的一些我们平时访问不了的网站。
代理服务器代理客户端去访问客户端无法访问的资源,服务端是不用区分访问请求是来自代理服务器还是真实客户端。

反向代理

反向代理的代理服务器代理的是服务端,客户端是不知道这个代理服务器的存在的,如nginx反向代理,内部集群统一对外提供一个服务。
代理服务器代理服务端去响应客户端无法访问的资源,客户端是不用区分访问响应是来自代理服务器还是真实服务端。
正向代理和反向代理是不冲突的是可以一起使用的,比如我配置了一个代理服务器去访问百度,但百度内部自己又用了nginx做反向代理。
反向代理可以用来做集群,也可以用来解决前端ajax跨域问题,典型的反向代理实现是nginx。

分布式架构相关的PDF资源是指涉及分布式系统设计和开发的电子书籍、学术论文、技术文档等文件,以下是几个值得推荐的资源: 1. 《分布式系统:概念与设计》(Distributed Systems: Concepts and Design):这本书由Georges Coulouris、Jean Dollimore和Tim Kindberg合著,是分布式系统领域的经典教材,全面介绍分布式系统的概念、设计和实现。可以通过搜索引擎或在线图书馆找到该书的PDF版本。 2. Google的分布式系统研究论文:Google在分布式系统领域进行了大量的研究和创新,他们的研究论文对于理解和应用分布式系统架构的原则和技术非常有帮助。可以在Google的研究论文网站上找到相关的PDF文档。 3. IBM的分布式系统技术文档:IBM是全球知名的科技公司,他们在分布式系统领域有丰富的经验和技术积累。IBM的官方网站上有许多有关分布式系统架构和实现的技术文档和白皮书,可以提供有关分布式系统设计和开发的指导。可以在IBM的官方网站上搜索相关的技术文档。 4. ACM和IEEE的学术论文数据库:ACM(Association for Computing Machinery)和IEEE(Institute of Electrical and Electronics Engineers)是计算机领域最重要的学术组织,他们的期刊和会议文集中经常出现与分布式系统相关的优秀论文。可以通过学术数据库,如ACM Digital Library和IEEE Xplore,搜索并下载这些论文的PDF文件。 总之,分布式架构相关的PDF资源可以从多个渠道获取,包括经典教材、技术文档、研究论文等。以上仅是一些推荐的资源,希望对你的学习和研究有所帮助。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值