笔者之前的博文提到过,随着大数据时代的到来,分布式是解决大数据问题的一个主要手段,随着越来越多的分布式的服务,如何在分布式的系统中对这些服务做协调变成了一个很棘手的问题。今天我们就来看看如何使用Python,利用开源对分布式服务做协调。
在对分布式的应用做协调的时候,主要会碰到以下的应用场景:
- 业务发现(service discovery)找到分布式系统中存在那些可用的服务和节点
- 名字服务 (name service)通过给定的名字知道到对应的资源
- 配置管理 (configuration management)如何在分布式的节点中共享配置文件,保证一致性。
- 故障发现和故障转移 (failure detection and failover)当某一个节点出故障的时候,如何检测到并通知其它节点, 或者把想用的服务转移到其它的可用节点
- 领导选举(leader election)如何在众多的节点中选举一个领导者,来协调所有的节点
- 分布式的锁 (distributed exclusive lock)如何通过锁在分布式的服务中进行同步
- 消息和通知服务 (message queue and notification)如何在分布式的服务中传递消息,以通知的形式对事件作出主动的响应
有许多的开源软件试图解决以上的全部或者部分问题,例如ZooKeeper,consul,doozerd等等,我们现在就看看它们是如何做的。
ZooKeeper
ZooKeeper是使用最广泛,也是最有名的解决分布式服务的协调问题的开源软件了,它最早和Hadoop一起开发,后来成为了Apache的顶级项目,很多开源的项目都在使用ZooKeeper,例如大名鼎鼎的Kafka。
Zookeeper本身是一个分布式的应用,通过对共享的数据的管理来实现对分布式应用的协调。
ZooKeeper使用一个树形目录作为数据模型,这个目录和文件目录类似,目录上的每一个节点被称作ZNodes。
ZooKeeper提供基本的API来操纵和控制Znodes,包括对节点的创建,删除,设置和获取数据,获得子节点等。
除了这些基本的操作,ZooKeeper还提供了一些配方(Recipe),其实就是一些常见的用例,例如锁,两阶段提交,领导选举等等。
ZooKeeper本身是用Java开发的,所以对Java的支持是最自然的。它同时还提供了C语言的绑定。
Kazoo是一个非常成熟的Zookeeper Python客户端,我们这就看看如果使用Python来调用ZooKeeper。(注意,运行以下的例子,需要在本地启动ZooKeeper的服务)
基本操作
以下的例子现实了对Znode的基本操作,首先要创建一个客户端的连接,并启动客户端。然后我们可以利用该客户端对Znode做增删改,取内容的操作。最后推出客户端。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
|
from
kazoo
.
client
import
KazooClient
import
logging
logging
.
basicConfig
(
)
zk
=
KazooClient
(
hosts
=
'127.0.0.1:2181'
)
zk
.
start
(
)
# Ensure a path, create if necessary
zk
.
ensure_path
(
"/test/zk1"
)
# Create a node with data
zk
.
create
(
"/test/zk1/node"
,
b
"a test value"
)
# Determine if a node exists
if
zk
.
exists
(
"/test/zk1"
)
:
print
"the node exist"
# Print the version of a node and its data
data
,
stat
=
zk
.
get
(
"/test/zk1"
)
print
(
"Version: %s, data: %s"
%
(
stat
.
version
,
data
.
decode
(
"utf-8"
)
)
)
# List the children
children
=
zk
.
get_children
(
"/test/zk1"
)
print
(
"There are %s children with names %s"
%
(
len
(
children
)
,
children
)
)
zk
.
stop
(
)
|
通过对ZNode的操作,我们可以完成一些分布式服务协调的基本需求,包括名字服务,配置服务,分组等等。
故障检测(Failure Detection)
在分布式系统中,一个最基本的需求就是当某一个服务出问题的时候,能够通知其它的节点或者某个管理节点。
ZooKeeper提供ephemeral Node的概念,当创建该Node的服务退出或者异常中止的时候,该Node会被删除,所以我们就可以利用这种行为来监控服务运行状态。
以下是worker的代码
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
|
from
kazoo
.
client
import
KazooClient
import
time
import
logging
logging
.
basicConfig
(
)
zk
=
KazooClient
(
hosts
=
'127.0.0.1:2181'
)
zk
.
start
(
)
# Ensure a path, create if necessary
zk
.
ensure_path
(
"/test/failure_detection"
)
# Create a node with data
zk
.
create
(
"/test/failure_detection/worker"
,
value
=
b
"a test value"
,
ephemeral
=
True
)
while
True
:
print
"I am alive!"
time
.
sleep
(
3
)
zk
.
stop
(
)
|
以下的monitor 代码,监控worker服务是否运行。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|