python实现分布式_Python如何快速实现分布式任务

深入读了读python的官方文档，发觉Python自带的multiprocessing模块有很多预制的接口可以方便的实现多个主机之间的通讯，进而实现典型的生产者-消费者模式的分布式任务架构。

之前，为了在Python中实现生产者-消费者模式，往往就会选择一个额外的队列系统，比如rabbitMQ之类。此外，你有可能还要设计一套任务对象的序列化方式以便塞入队列。如果没有队列的支持，那不排除有些同学不得不从socket服务器做起，直接跟TCP/IP打起交道来。

其实multiprocessing.managers中有个BaseManager就为开发者提供了这样一个快速接口。

我们假定的场景是1个生产者(producer.py)+8个消费者(worker.py)的系统，还有一个中央节点负责协调(server.py)实现如下：

server.py

from multiprocessing.managers import BaseManager

import Queue

queue = Queue.Queue() #初始化一个Q，用于消息传递

class QueueManager(BaseManager):

pass

QueueManager.register('get_queue', callable=lambda:queue) # 在系统中发布get_queue这个业务

if __name__ == '__main__':

m = QueueManager(address=('10.239.85.193', 50000),authkey='abr' )

# 监听所有10.239.85.193的500