zookeeper总结

1. zookeeper的作用


配置中心
分布式锁（和我遇到的分布式锁的区别）
统一命名服务。和JNDI类似
分布式系统的故障修复。由master监控集群中服务器状态。当有服务器挂掉时通知其他服务器重新分配不同节点的计算任务。master挂掉会新一轮重新选举master。
2. 特点


精简的文件系统。管理小文件。hadoop是大型文件系统。
采用观察者设计模式
3. 分布式一致性协议


二阶段提交 
第一阶段: 
协调者会问所有的参与者结点，是否可以执行提交操作。 
各个参与者开始事务执行的准备工作：如：为资源上锁，预留资源，写undo/redo log…… 
参与者响应协调者，如果事务的准备工作成功，则回应“可以提交”，否则回应“拒绝提交”。 
第二阶段: 
如果所有的参与者都回应“可以提交”，那么，协调者向所有的参与者发送“正式提交”的命令。参与者完成正式提交，并释放所有资源，然后回应“完成”，协调者收集各结点的“完成”回应后结束这个Global Transaction。 
如果有一个参与者回应“拒绝提交”，那么，协调者向所有的参与者发送“回滚操作”，并释放所有资源，然后回应“回滚完成”，协调者收集各结点的“回滚”回应后，取消这个Global Transaction。
1）如果第一阶段中，参与者没有收到询问请求，或是参与者的回应没有到达协调者。那么，需要协调者做超时处理，一旦超时，可以当作失败，也可以重试。


2）如果第二阶段中，正式提交发出后，如果有的参与者没有收到，或是参与者提交/回滚后的确认信息没有返回，一旦参与者的回应超时，要么重试，要么把那个参与者标记为问题结点剔除整个集群，这样可以保证服务结点都是数据一致性的。


3）糟糕的情况是，第二阶段中，如果参与者收不到协调者的commit/fallback指令，参与者将处于“状态未知”阶段，参与者完全不知道要怎么办，比如：如果所有的参与者完成第一阶段的回复后（可能全部yes，可能全部no，可能部分yes部分no），如果协调者在这个时候挂掉了。那么所有的结点完全不知道怎么办（问别的参与者都不行）。为了一致性，要么死等协调者，要么重发第一阶段的yes/no命令。


两段提交最大的问题就是第3）项，如果第一阶段完成后，参与者在第二阶没有收到决策，那么数据结点会进入“不知所措”的状态，这个状态会block住整个事务。也就是说，协调者Coordinator对于事务的完成非常重要，Coordinator的可用性是个关键。 因些，我们引入三段提交，三段提交在Wikipedia上的描述如下，他把二段提交的第一个段break成了两段：询问，然后再锁资源。最后真正提交。


三段提交的核心理念是：在询问的时候并不锁定资源，除非所有人都同意了，才开始锁资源。


分布式一致性协议是由两个将军问题基础上提出来的 
两个将军问题的具体描述为： 
1）第一位将军先发送一段消息“让我们在上午9点开始进攻”。然而，一旦信使被派遣，他是否通过了山谷，第一位将军就不得而知了。任何一点的不确定性都会使得第一位将军攻击犹豫，因为如果第二位将军不能在同一时刻发动攻击，那座城市的驻军就会击退他的军队的进攻，导致他的军对被摧毁。


2）知道了这一点，第二位将军就需要发送一个确认回条：“我收到您的邮件，并会在9点的攻击。”但是，如果带着确认消息的信使被抓怎么办？所以第二位将军会犹豫自己的确认消息是否能到达。


3）于是，似乎我们还要让第一位将军再发送一条确认消息——“我收到了你的确认”。然而，如果这位信使被抓怎么办呢？


4）这样一来，是不是我们还要第二位将军发送一个“确认收到你的确认”的信息。


靠，于是你会发现，这事情很快就发展成为不管发送多少个确认消息，都没有办法来保证两位将军有足够的自信自己的信使没有被敌军捕获。 
两个将军问题和它的无解证明首先由E.A.Akkoyunlu,K.Ekanadham和R.V.Huber于1975年在《一些限制与折衷的网络通信设计》一文中发表，就在这篇文章的第73页中一段描述两个黑帮之间的通信中被阐明。 1978年，在Jim Gray的《数据库操作系统注意事项》一书中（从第465页开始）被命名为两个将军悖论。作为两个将军问题的定义和无解性的证明的来源，这一参考被广泛提及。


这个实验意在阐明：试图通过建立在一个不可靠的连接上的交流来协调一项行动的隐患和设计上的巨大挑战。


从工程上来说，一个解决两个将军问题的实际方法是使用一个能够承受通信信道不可靠性的方案，并不试图去消除这个不可靠性，但要将不可靠性削减到一个可以接受的程度。比如，第一位将军排出了100位信使并预计他们都被捕的可能性很小。在这种情况下，不管第二位将军是否会攻击或者受到任何消息，第一位将军都会进行攻击。另外，第一位将军可以发送一个消息流，而第二位将军可以对其中的每一条消息发送一个确认消息，这样如果每条消息都被接收到，两位将军会感觉更好。然而我们可以从证明中看出，他们俩都不能肯定这个攻击是可以协调的。他们没有算法可用（比如，收到4条以上的消息就攻击）能够确保防止仅有一方攻击。再者，第一位将军还可以为每条消息编号，说这是1号，2号……直到n号。这种方法能让第二位将军知道通信信道到底有多可靠，并且返回合适的数量的消息来确保最后一条消息被接收到。如果信道是可靠的话，只要一条消息就行了，其余的就帮不上什么忙了。最后一条和第一条消息丢失的概率是相等的。


两将军问题可以扩展成更变态的拜占庭将军问题 (Byzantine Generals Problem)，其故事背景是这样的：拜占庭位于现在土耳其的伊斯坦布尔，是东罗马帝国的首都。由于当时拜占庭罗马帝国国土辽阔，为了防御目的，因此每个军队都分隔很远，将军与将军之间只能靠信差传消息。 在战争的时候，拜占庭军队内所有将军必需达成一致的共识，决定是否有赢的机会才去攻打敌人的阵营。但是，军队可能有叛徒和敌军间谍，这些叛徒将军们会扰乱或左右决策的过程。这时候，在已知有成员谋反的情况下，其余忠诚的将军在不受叛徒的影响下如何达成一致的协议，这就是拜占庭将军问题。


Paxos算法


第一阶段：Prepare阶段 
A把申请修改的请求Prepare Request发给所有的结点A，B，C。注意，Paxos算法会有一个Sequence Number（你可以认为是一个提案号，这个数不断递增，而且是唯一的，也就是说A和B不可能有相同的提案号），这个提案号会和修改请求一同发出，任何结点在“Prepare阶段”时都会拒绝其值小于当前提案号的请求。所以，结点A在向所有结点申请修改请求的时候，需要带一个提案号，越新的提案，这个提案号就越是是最大的。


如果接收结点收到的提案号n大于其它结点发过来的提案号，这个结点会回应Yes（本结点上最新的被批准提案号），并保证不接收其它


二阶段提交协议


阶段一 : 提交事务请求


事务询问 
向参与者发送事务内容,询问是否可以进行事务提交操作.并开始等待参与者的响应
参与者执行事务 
参与者收到消息之后,进行上锁, 记录undo/redo log
参与者向协调者反馈事务事务询问的响应 
这个过程相当于投票的过程.称为投票阶段
阶段二 : 执行事务提交 
当第一阶段都返回yes的时候,协调者会发出事务提交的指令.


发出提交请求 
协调者向所有参与者发出事务提交请求
事务提交 
参与者收到提交请求之后,会正式执行事务提交操作.并在提交完成之后释放占用的事务资源
参与者反馈事务提交结果 
当所有反馈都是yes的时候,说明事务提交成功.
缺点:


同步阻塞 
在执行事务提交的过程中,一直处于阻塞状态
单点问题 
在阶段二中,如果协调者出现故障,其他参与者将会一直处于锁定事务资源的状态.
数据不一致
保守 
协调者只能通过超时机制来判断,没有完善的容错机制
三阶段提交协议


阶段一 : canCommit


事务询问
各参与者向协调者反馈询问
阶段二 : PreCommit


协调者发送预提交请求
参与者执行事务操作,并记录undo/redo log
各参与者向协调者反馈执行结果 
可能有事务中断的情况
阶段三: doCommit


协调者向参与者发送提交请求
事务提交
参与者反馈事务结果 
可能事务中断
优点


最大化的降低了参与者的阻塞范围
lamport在论文中提出了一种计算机容错理论,理论的描述就是拜占庭将军问题,在分布式计算领域,试图在异构网络和不可靠信道上实现一致性状态是不可能的.然后实际上,大多数系统都是部署在一个局域网里,消息被篡改的几率非常小.所以在工程实践中,可以假设不存在拜占庭将军问题


paxos算法详解


zookeeper的设计目标


致力于提供一个高性能高可用的分布式协调服务.对大型分布式系统的单点问题能很好的解决,起源于雅虎


1. 服务器角色介绍


leader 
是整个zookeeper集群工作机制的核心，主要工作有两个


事务请求的唯一调度者和处理者，保证集群中事务处理顺序
集群内部各服务器的调度者
Follower 
zookeeper集群状态的跟随者，主要工作有


处理客户端非事务请求，转发事务请求给leader服务器。
参与事务请求 proposal的投票
参与leader选举投票
Observer 
充当一个观察者的角色，和Follower类似，对非事务请求，都可以进行独立处理。而对于事务请求，则交给leader来处理。和follower的区别是，Observer不参与任何形式的投票。通常用于不影响集群事务处理能力的情况下增加集群非事务处理能力。
2. Leader选举


SID：用来唯一标识zookeeper集群中的一台机器，不能重复，和myid一致 
myid：机器编号的id 
ZXID：事务Id，根据事务的执行情况增加。数值越大表示状态最新。数据恢复最快。 
至少两台服务器才可以，这里用三台来说明问题。server1（1,0）、server2（2,0）、server3（3,0）


1. 服务器启动期间的leader选举


每个server发出一个投票 
由于是初始阶段，每台服务器都会把自己当做Leader服务器来投票。server1（1,0）、server2（2,0）,然后发给集群中其他机器。
接受来自各个服务器的投票结果。 
每台服务器都会接收来自其他服务器的投票，接收到后先判断有效性，包括检查是否是本轮投票，是否来自Looking状态的服务。
处理投票 
对接收到的每一个投票，都需要和自己的投票进行pk，pk规则如下：


先检查ZXID，ZXID大的优先作为Leader
ZXID相同的话，比较myid，myid大的作为Leader服务器。
对于server1（1，0）来说，收到的投票（2,0）大于自己的投票，于是更新自己的投票为（2,0），再向集群中发一次。而server2（2,0）不用变，直接向集群中再发一次。


统计投票 
每次投票。服务器都会统计是否有过半的服务器接收了相同的投票。当是的时候，认为已经选出了Leader
改变服务器状态。 
一旦确定了Leader，每个服务器就更新自己的状态。如果是Follower，改变为Following，如果是Leader，变为Leading。
2. 服务器运行期间的leader选举


zookeeper集群在正常运行过程中，一旦选出了Leader，所有服务器的集群角色不再发生变化，除非Leader节点挂了。进入新一轮的Leader选举。运行期间的Leader选举和启动时候的Leader选举大致类似。 
server1（1,123）、server2（2,123）、server3（3,122）共三台机器。假设leader是server2，现在server2挂了。


状态变更 
Leader挂了之后，剩余的Observer都会将自己的服务器状态变更为LOOKING，进入Leader选举流程。
每个server发出一个投票 
生成投票信息（myid，ZXID）。第一轮投票都会投自己，生成（1,123）、（3,122）的投票信息，并发送给其他机器。
接收其他机器的投票信息
处理投票 
（1,123）会成为Leader
统计投票
改变服务器状态。






角色  
leader 
follower
observer




为了保证事务的顺序一致性 zookeeper采用了递增的事务id




leader选举超过半数
leader接受怎删改的请求， 发起proposal
follower 和 leader来进行投票 也得超过半数commit确认更新成功




最终一致性， 更新超过半数就成功了，
可靠性  
原子性
顺序性 因为增删改都发给leader一个节点




zookeeper数据保存在内存，会定期落地到磁盘 在datadir里面




zookeeper 2个模式， 恢复模式 （选主） 广播模式（zab原子广播）更新数据会用
为什么是 奇数个集群  3 5 7 9
1 容错和偶数是一样的所以没必要多一台
2 防止脑裂   5台分裂 就是 1/4 2/3 总能只有1个主机
    4台分裂就是  2/2 会出现双主机脑裂




znode节点
ephemeral 客户端和  server端链接断开后悔自动删除znode
persist 永久
还有 有序 的 各自2个




集群中改一个数据，其他机器watcher也会看到数据变更
watcher只会通知一次， 收到消息变更需要再次注册watcher








数据提交保证超过半数才完成提交，也是为了保证数据最新
当  5台中间有3台更新了数据， 5/2=3 ，保证3台就可以使用 其中2台更新了数据
的挂了。还有1台最新数据， 剩下3台选举，因为1有最新数据所以可以选为
领导，保证了高可用，以及数据的最新， 所以更新也要超过半数