分布式系统的设计,往往会反复权衡可用性和一致性,于是就产生了一系列的一致性协议,其中最著名的就是二阶段提交一些(2PC)、三阶段提交协议(3PC)和Paxos协议。
一、二阶段提交协议(2PC)
在分布式系统中,各个节点之间在物理上相互独立,通过网络进行沟通和协调。由于存在事务机制,可以保证每个独立节点上的数据操作可以满足ACID。但是,相互独立的节点之间无法准确的知道其他节点中的事务执行情况。所以从理论上讲,两台机器理论上无法达到一致的状态。如果想让分布式部署的多台机器中的数据保持一致性,那么就要保证在所有节点的数据写操作,要不全部都执行,要么全部的都不执行。但是,一台机器在执行本地事务的时候无法知道其他机器中的本地事务的执行结果。所以他也就不知道本次事务到底应该commit还是 roolback。所以,常规的解决办法就是引入一个“协调者”的组件来统一调度所有分布式节点"参与者"的执行。
二阶段提交的算法思路可以概括为:参与者将操作成败通知协调者,再由协调者根据所有参与者的反馈情报决定各参与者是否要提交操作还是中止操作。目前绝大部分的关系型数据库都是采用二阶段提交协议。
1、两个阶段
提交事务请求阶段:
协调者发送请求给参与者,通知参与者提交或取消事务,参与者进入投票过程,每个参与者回复给协调者自己的投票:同意(事务在本地执行成功)或取消(事务本地执行失败)。
执行事务提交阶段:
协调者对上一阶段参与者的投票结果进行表决,当所有投票为“同意”时提交提交事务,否者中止事务,并通知参与者,参与者接到通知后执行相应的操作。
2、优缺点
优点:原理简单,方便实现
缺点:
同步阻塞:
各个参与者在等待其他参与者响应的过程中,都是处于阻塞过程中的,不能进行其他的任何操作。
单点问题:
协调者是各单点,一旦出现问题,整个分布式事务将无法进行,如果在阶段二中出现问题,其他参与者都将一直处于锁定事务资源的状态中。(如果是协调者挂掉,可以重新选举一个协调者,但是无法解决因为协调者宕机导致的参与者处于阻塞状态的问题)
数据不一致:
在二阶段提交的阶段二中,当协调者向参与者发送commit请求之后,发生了局部网络异常或者在发送commit请求过程中协调者发生了故障,这回导致只有一部分参与者接受到了commit请求。而在这部分参与者接到commit请求之后就会执行commit操作。但是其他部分未接到commit请求的机器则无法执行事务提交。于是整个分布式系统便出现了数据部一致性的现象。
二阶段无法解决的问题:
协调者再发出commit消息之后宕机,而唯一接收到这条消息的参与者同时也宕机了。那么即使协调者通过选举协议产生了新的协调者,这条事务的状态也是不确定的,没人知道事务是否被已经提交。
二、三阶段提交(3PC)
三阶段提交(Three-phase commit),也叫三阶段提交协议(Three-phase commit protocol),是二阶段提交(2PC)的改进版本。
与两阶段提交不同的是,三阶段提交有两个改动点。
1、引入超时机制。同时在协调者和参与者中都引入超时机制。
2、在第一阶段和第二阶段中插入一个准备阶段。保证了在最后提交阶段之前各参与节点的状态是一致的。
也就是说,除了引入超时机制之外,3PC把2PC的准备阶段再次一分为二,这样三阶段提交就有CanCommit、PreCommit、DoCommit三个阶段。
1、CanCommit阶段
3PC的CanCommit阶段其实和2PC的准备阶段很像。协调者向参与者发送commit请求,参与者如果可以提交就返回Yes响应,否则返回No响应。
1.事务询问 协调者向参与者发送CanCommit请求。询问是否可以执行事务提交操作。然后开始等待参与者的响应。
2.响应反馈 参与者接到CanCommit请求之后,正常情况下,如果其自身认为可以顺利执行事务,则返回Yes响应,并进入预备状态。否则反馈No
2、PreCommit阶段
协调者根据参与者的反应情况来决定是否可以进行事务的PreCommit操作。根据响应情况,有以下两种可能。
a)、假如协调者从所有的参与者获得的反馈都是Yes响应,那么就会执行事务的预执行。
- 发送预提交请求 协调者向参与者发送PreCommit请求,并进入Prepared阶段。
- 事务预提交 参与者接收到PreCommit请求后,会执行事务操作,并将undo和redo信息记录到事务日志中。
- 响应反馈 如果参与者成功的执行了事务操作,则返回ACK响应,同时开始等待最终指令。
b)、假如有任何一个参与者向协调者发送了No响应,或者等待超时之后,协调者都没有接到参与者的响应,那么就执行事务的中断。
- 发送中断请求 协调者向所有参与者发送abort请求。
- 中断事务 参与者收到来自协调者的abort请求之后(或超时之后,仍未收到协调者的请求),执行事务的中断。
3、doCommit阶段
该阶段进行真正的事务提交,也可以分为以下两种情况。
a)、执行提交
- 发送提交请求 协调接收到参与者发送的ACK响应,那么他将从预提交状态进入到提交状态。并向所有参与者发送doCommit请求。
- 事务提交 参与者接收到doCommit请求之后,执行正式的事务提交。并在完成事务提交之后释放所有事务资源。
- 响应反馈 事务提交完之后,向协调者发送Ack响应。
- 完成事务 协调者接收到所有参与者的ack响应之后,完成事务。
b)、中断事务 协调者没有接收到参与者发送的ACK响应(可能是接受者发送的不是ACK响应,也可能响应超时),那么就会执行中断事务。
- 发送中断请求 协调者向所有参与者发送abort请求
- 事务回滚 参与者接收到abort请求之后,利用其在阶段二记录的undo信息来执行事务的回滚操作,并在完成回滚之后释放所有的事务资源。
- 反馈结果 参与者完成事务回滚之后,向协调者发送ACK消息
- 中断事务 协调者接收到参与者反馈的ACK消息之后,执行事务的中断。
在doCommit阶段,如果参与者无法及时接收到来自协调者的doCommit或者rebort请求时,会在等待超时之后,会继续进行事务的提交。(其实这个应该是基于概率来决定的,当进入第三阶段时,说明参与者在第二阶段已经收到了PreCommit请求,那么协调者产生PreCommit请求的前提条件是他在第二阶段开始之前,收到所有参与者的CanCommit响应都是Yes。(一旦参与者收到了PreCommit,意味他知道大家其实都同意修改了)所以,一句话概括就是,当进入第三阶段时,由于网络超时等原因,虽然参与者没有收到commit或者abort响应,但是他有理由相信:成功提交的几率很大。 )
相对于2PC,3PC主要解决阻塞问题,因为一旦参与者无法及时收到来自协调者的信息之后,他会默认执行commit。而不会一直持有事务资源并处于阻塞状态。但是这种机制也会导致数据一致性问题,因为,由于网络原因,协调者发送的abort响应没有及时被参与者接收到,那么参与者在等待超时之后执行了commit操作。这样就和其他接到abort命令并执行回滚的参与者之间存在数据不一致的情况。
三、Paxos算法
了解了2PC和3PC之后,我们可以发现,无论是二阶段提交还是三阶段都是存在单点的问题的。Google Chubby的作者Mike Burrows说过, there is only one consensus protocol, and that’s Paxos” – all other approaches are just broken versions of Paxos.
意即世上只有一种一致性算法,那就是Paxos,所有其他一致性算法都是Paxos算法的不完整版。
paxos算法的详细描述请参考:https://zh.wikipedia.org/wiki/Paxos%E7%AE%97%E6%B3%95 ,维基百科对paxos算法的描述,属于比较晦涩难懂的,直接看这个难度太大。
下面我们再回到上面的哪个问题,分布式事务提交或者中止的问题,来通过实例的方式的介绍paxos算法。
分布式一致性其实主要是指分布式系统中的数据一致性问题,在一个分布式数据库系统中,如果各节点的初始状态一致,每个节点都执行相同的操作序列,那么他们最后能得到一个一致的状态。为保证每个节点执行相同的命令序列,需要在每一条指令上执行一个“一致性算法”以保证每个节点看到的指令一致。再简化其实就是要满足类似于上面2PC、3PC中的一次分布式事务的提交,所有参与者要么全部都是提交、要么全部都是中止,这样才能保证数据的一致性。
paxos算法过程描述
上面2PC和3PC都有各一个问题就是单点问题,协调者都是单点的。为了解决单点问题,所以需要引入多个协调者,协调者可能出现响应慢、down机、重启,协调者和参与者之前也会出现通信异常。paxos算法解决的就是在一个可能发生上述异常的分布式系统中如何就某个事务的提交和中止达成一致,保证不论发生以上任何异常,都不会破坏决议的一致性。
我们这里就把参与者叫做Proposer,协调者叫Acceptor,proposer需要向协调者acceptor提议此次事务是commit还是rollback,我们称之为提交提议,如果提议被一半以上的acceptor接受了,那么就称为这个提议被批准了,成为了决议,即这个决议表明这次事务是commit还是rollback。(因为任意两个半数以上的acceptor集合至少包含一个共同的成员)
1、proposer向acceptor提提议的过程需要编号,这个编号在所有proposer中需要全局递增的(#1,#2,#3 ....)。
2、proposer向acceptor提提议需要先获得acceptor的访问权,也就是说每次提提议分为两个阶段:首先申请访问acceptor的权限(定义命令:apply(#1)),允许访问后,才能向acceptor提交提议(定义命令:accept(#1,v), 这里的v是commit或者rollback)。
3、acceptor会记录当前访问权限的编号,以及接受的提议的编号和值
4、acceptor提供两个接口:
申请访问权限:apply(#n),如果申请成功返回<ok,#m,v> #m和v表示当前接受提议的编号和内容,没有接受过任何提议则返回<ok, null,null>;如果申请权限失败则返回<error>
提交提议:accept(#n,v),如果成功则返回<ok,#n,v> #n和v表示当前接受提议的编号和内容,如果失败则返回<error>
5、acceptor需要坚持"喜新厌旧"的原则,这里的新旧指的是编号的大小,编号越大越新。如果之前给了小的编号的访问权,如果来了一个大的编号的申请访问权,要把访问权给大的编号的proposer,之后如果之前小的编号提交提议会直接返回<error>。
5、acceptor如果收到一个编号为N的提议,如果它之前没有接受过比N大的编号的提议,他就可以接收编号为N的提议。
6、propser 申请权限后,如果收到了来自半数以上的acceptor的响应结果,如果某一个提议被半数以上acceptor接受,则这个提议就称为了决议,如果没有达到半数,则选取编号最大的提议的值为这次提交的值,如果所有的acceptor都没有接受过提议,那么这个proposer就可以自己指定提议的值。
协议的运行过程:
http://pan.baidu.com/s/1qYBtF0C
一些问题:
在什么情况下提议的值被批准也就是形成决议?
paxos的两阶段分别做什么?
在第一阶段结束后,如果获取的值都为空,为何就能保证旧的编号无法形成决议?
如何保证新的编号不会破坏已经形成决议的值?
在形成决议后,如果出现半数一下acceptor故障,为何决议不会被更改?
参考资料:
从Paxos到Zookeeper
http://www.hollischuang.com/archives/681
http://yale.iteye.com/blog/1541527
http://www.hollischuang.com/archives/693
http://iunknown.iteye.com/blog/2246484