python的pipe和queue及celery的使用方法

最新推荐文章于 2024-04-08 17:50:12 发布

ShanWu__

最新推荐文章于 2024-04-08 17:50:12 发布

阅读量1.7k

点赞数

分类专栏： python

本文链接：https://blog.csdn.net/wushan1992/article/details/80457908

版权

本文介绍了Python的multiprocessing模块中的Pipe和Queue，详细讲解了它们的工作原理和使用方法，强调了Pipe的单双工特性及Queue的多进程交互能力。此外，还探讨了Celery这一分布式任务队列的使用，包括Brokers、Result Stores、Workers和Tasks的概念，并给出了使用Redis作为broker和backend的示例。

摘要由CSDN通过智能技术生成

multiprocessing.Pipe()

multiprocessing.Pipe()即管道模式，调用Pipe()返回管道的两端的Connection。

Python官方文档的描述：
Returns a pair (conn1, conn2) of Connection objects representing the ends of a pipe.
因此, Pipe仅仅适用于只有两个进程一读一写的单双工情况，也就是说信息是只向一个方向流动。例如电视、广播，看电视的人只能看，电视台是能播送电视节目。

Pipe的读写效率要高于Queue。
进程间的Pipe基于fork机制建立。
当主进程创建Pipe的时候，Pipe的两个Connections连接的的都是主进程。
当主进程创建子进程后，Connections也被拷贝了一份。此时有了4个Connections。
此后，关闭主进程的一个Out Connection，关闭一个子进程的一个In Connection。那么就建立好了一个输入在主进程，输出在子进程的管道。

实例代码

from multiprocessing import Pipe, Process


def son_process(x, pipe):
    _out_pipe, _in_pipe = pipe

    # 关闭fork过来的输入端
    _in_pipe.close()
    while True:
        try:
            msg = _out_pipe.recv()
            print(msg)
        except EOFError:
            # 当out_pipe接受不到输出的时候且输入被关闭的时候，会抛出EORFError，可以捕获并且退出子进程
            break


if __name__ == '__main__':
    out_pipe, in_pipe = Pipe(True)
    son_p = Process(target=son_process, args&#