Python之进程池实现

最新推荐文章于 2024-09-05 15:45:18 发布

zzmxz

最新推荐文章于 2024-09-05 15:45:18 发布

阅读量451

点赞数

分类专栏： Python

本文链接：https://blog.csdn.net/zzmxz/article/details/105840607

版权

本文详细介绍了Python的multiprocessing模块中的进程池Pool，包括其初始化、最大进程数限制以及常用函数如apply_async、close、terminate和join的用法。通过实例展示了Pool如何动态创建和管理进程，以及Pool在处理大量任务时的优势。同时，讨论了使用apply与apply_async的区别，指出apply会导致阻塞，而apply_async则允许并行执行。最后，演示了在进程池中使用Manager().Queue进行进程间通信的例子。

摘要由CSDN通过智能技术生成

当需要创建的子进程数量不多时，可以直接利用multiprocessing中的Process动态成生多个进程，但如果是上百甚至上千个目标，手动的去创建进程的工作量巨大，此时就可以用到multiprocessing模块提供的Pool方法。

初始化Pool时，可以指定一个最大进程数，当有新的请求提交到Pool中时，如果池还没有满，那么就会创建一个新的进程用来执行该请求；但如果池中的进程数已经达到指定的最大值，那么该请求就会等待，直到池中有进程结束，才会用之前的进程来执行新的任务。

进程池的使用：

# -*- coding: UTF-8 -*-
import multiprocessing
import random,threading,time,string,os
def test1(msg):
    t_start = time.time()
    print('%s开始执行，进程号为%d'%(msg,os.getpid()))
    time.sleep(random.random()*2)
    t_stop = time.time()
    print('%s执行完成，耗时%.2f'%(msg,t_stop-t_start))
if __name__ == '__main__':
    po = multiprocessing.Pool(3)
    for i in range(10):
        # 每次循环将会用空闲出来的子进程去调用目标
        po.apply_async(test1,(i,))
    print('-------start--------')
    po.close()# 关闭进程池，关闭后po不再接收新的请求
    po.join()# 等待po中所有子进程执行完成，必须放在close语句之后
    prin