Python multiprocessing 使用手记[3] – 关于Queue

本文详细介绍了Python multiprocessing库中的Queue,用于多进程间对象交换。Queue的使用类似于threading.Queue,但不支持默认的join和task_done操作,需要使用JoinableQueue。Queue基于Pipe实现,依赖于进程间的对象 pickle 化。文章探讨了Queue的实现细节,如缓冲区、feed线程及其可能导致的死锁问题,并提出SimpleQueue和Pipe作为替代方案。此外,文章还提到了使用server process共享Queue的方法,以避免feed线程问题,但可能引入性能影响。
摘要由CSDN通过智能技术生成

 

原文:http://blog.ftofficer.com/2009/12/python-multiprocessing-3-about-queue/


继续讨论Python multiprocessing,这次讨论的主要内容是mp库的核心组件之一的Queue。

 

Queue是mp库当中用来提供多进程对象交换的方式。对象交换和上一部分 当中提到的对象共享都是使多个进程访问同一个对象的方式,两者的区别就是,对象共享是多个进程访问同一 个对象,对象交换则是将对象从一个进程传输的另一个进程。

 

multiprocessing当中的Queue使用方式和Python内置的threading.Queue对象很像,它支持一个put操作,将 对象放入Queue,也支持一个get操作,将对象从Queue当中读出。和threading.Queue不同的是,mp.Queue默认不支持 join()和task_done操作,这两个支持需要使用mp.JoinableQueue对象。

 

由于Queue对象负责进程之间的对象传输,因此第一个问题就

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值