python 多进程-进阶-进程间通信之Queue

    假如创建了大量的进程,那进程间通信是必不可少的。python提供了多种进程间通信的方式,如:Queue和Pipe方法。他们两者的区别在于Pipe常用来在两个进程间通信,Queue用来在多个进程间实现通信;

    Queue是多进程安全的队列,可以使用queue实现多进程之间的数据传递。有两个方法:Put 和 Get 可以进行 Queue 操作:

    Put 方法用以插入数据到队列中,他还有两个可选参数:blocked 和 timeout。如果blocked 为 True(默认值),并且timeout为正值,该方法会阻塞timeout指定的时间,直到该队列有剩余的空间。如果超时,会抛出 Queue.Full异常。如果blocked为False,但该Queue队列已满,会立即抛出Queue.Full异常。

    Get 方法可以用队列读取并且删除一个元素。同样,Get方法有两个可选参数:blocked和timeout。如果blocked为True(默认值),并且timeout为正值,那么在等待时间内没有取到任何元素,会抛出Queue.Empty异常。如果blocked为False,分两种情况:如果Queue有一个值可用,则立即放回该值;否则,如果队列为空,则立即抛出Queue.Empty异常。

    示例:在父进程中创建三个子进程,两个子进程往Queue中写入数据,一个子进程从Queue中读取数据。

# -*- coding: utf-8 -*-
# User: jier
# QQ: 2276845534
from multiprocessing import Process, Queue
import os, time, random

# 写数据进程执行的代码
def proce_write(q, urls):
    print("Process (%s) is writing..." % os.getpid())
    for url in urls:
        q.put(url)
        print("Put %s to queue..." % url)
        time.sleep(random.random())


# 读数据进程执行的代码
def proc_read(q):
    print('Process (%s) is writing...' %os.getpid())
    while True:
        url = q.get(True)
        print('Get %s from queue.' % url)


if __name__  == "__main__":
    # 父进程创建queue,并传给各个子进程
    q=Queue()
    proc_writer1 = Process(target=proce_write, args=(q, ['url_1', 'url_2', 'url_3']))
    proc_writer2 = Process(target=proce_write, args=(q, ['url_4', 'url_5', 'url_6']))
    proc_reader = Process(target=proc_read, args=(q,))
    # 启动子进程 proc_write,写入
    proc_writer1.start()
    proc_writer2.start()
    # 启动子进程proc_reader,读取
    proc_reader.start()
    # 等待proc_writer结束
    proc_writer1.join()
    proc_writer2.join()
    # proc_reader进程是死循环,无法等待其结束,只能强行终止,下面是强行终止的方法:
    proc_reader.terminate()

输出:

Process (12204) is writing...
Put url_1 to queue...
Process (12724) is writing...
Put url_4 to queue...
Process (5484) is writing...
Get url_1 from queue.
Get url_4 from queue.
Put url_2 to queue...
Get url_2 from queue.
Put url_3 to queue...
Get url_3 from queue.
Put url_5 to queue...
Get url_5 from queue.
Put url_6 to queue...
Get url_6 from queue.

Process finished with exit code 0

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

运维家

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值