Python 进程,进程间通过队列共享数据,队列Queue

队列中的数据是放在内存中的,可以通过分布式缓存redis优化队列。

 

demo.py(进程通过队列共享数据):

import multiprocessing


def download_from_web(q):
    """下载数据"""
    # 模拟从网上下载的数据
    data = [11, 22, 33, 44]

    # 向队列中写入数据
    for temp in data:
        q.put(temp)  # 队列中写数据,队列满了会阻塞。  put_nowait() 队列满了会抛异常

    print("---下载器已经下载完了数据并且存入到队列中----")


def analysis_data(q):
    """数据处理"""
    waitting_analysis_data = list()
    # 从队列中获取数据
    while True:
        data = q.get()  # 队列中读数据,队列空了会阻塞。  get_nowait() 队列空了会抛异常
        waitting_analysis_data.append(data)

        if q.empty():  # 队列是否为空。  q.full() 队列是否满了。
            break

    # 模拟数据处理
    print(waitting_analysis_data)

def main():
    # 1. 创建一个队列 (先进先出)
    q = multiprocessing.Queue(10)  # 最多放10个数据。  如果不指定长度,默认最大(和硬件相关)

    # 2. 创建多个进程,将队列的引用当做实参进行传递
    p1 = multiprocessing.Process(target=download_from_web, args=(q,))
    p2 = multiprocessing.Process(target=analysis_data, args=(q,))
    p1.start()
    p2.start()


if __name__ == "__main__":
    main()

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值