python 线程池、进程池的简单使用

完整代码:

from concurrent.futures import ProcessPoolExecutor, ThreadPoolExecutor, wait, ALL_COMPLETED


def test(num):
    sum = 0
    for i in range(num):
        sum += i
    return sum


def main():
    pool = ProcessPoolExecutor(max_workers=8)
 
    task = [pool.submit(test, num) for num in [3, 5, 7]]
    wait(task, return_when=ALL_COMPLETED)
    for i in task:
        print(i.result())


if __name__ == '__main__':
    main()

简单介绍每一步:

一、导入包

from concurrent.futures import ProcessPoolExecutor, ThreadPoolExecutor, wait, ALL_COMPLETED

二、创建一个函数

这个函数是打算要做的事。

def test(num):
    sum = 0
    for i in range(num):
        sum += i
    return sum

三、创建一个主函数,在主函数里面创建进程池(或线程池)

def main():
    pool = ProcessPoolExecutor(max_workers=3)	# 进程池
	# pool = ThreadPoolExecutor(max_workers=3)	# 线程池

创建进程池时max_workers的最大值为CPU核心的两倍;创建线程池时max_workers的最大值为CPU核心的五倍。

四、将任务放入进/线程池中

task = [pool.submit(test, num) for num in [3, 5, 7]]	# 注意test后面没有括号!!!

五、等待进/线程池完成任务

wait(task, return_when=ALL_COMPLETED)	

这里是等待所有任务完成才能拿到结果。也可以不用等待所有任务完成就拿到结果,即每个进/线程执行完就可以拿到结果,去掉return_when就行。

六、得到结果

    for i in task:
        print(i.result())
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: Python 提供了 multiprocessing 和 threading 模块,分别支持进程线程池的实现。 进程(multiprocessing.Pool)是一个由多个进程组成的可重用的进程,可以通过 apply、map 等方法很方便地实现并行化计算和任务分配。进程的优点是可以有效地利用多核 CPU 的性能,缺点是由于进程间的切换和通信开销较大,所以适用于计算密集型任务,不适合 IO 密集型任务。 以下是一个简单进程示例: ```python from multiprocessing import Pool def worker(num): print("Worker %d start" % num) return num * 2 if __name__ == '__main__': pool = Pool(processes=4) result = pool.map(worker, range(10)) print(result) ``` 线程池(concurrent.futures.ThreadPoolExecutor)是一个由多个线程组成的可重用的线程池,可以通过 submit、map 等方法很方便地实现并行化计算和任务分配。线程池的优点是创建和销毁线程的开销比较小,适用于 IO 密集型任务,缺点是 Python 的全局解释锁(GIL)的存在,所以无法利用多核 CPU 的性能。 以下是一个简单线程池示例: ```python from concurrent.futures import ThreadPoolExecutor def worker(num): print("Worker %d start" % num) return num * 2 if __name__ == '__main__': with ThreadPoolExecutor(max_workers=4) as executor: result = executor.map(worker, range(10)) print(list(result)) ``` 以上示例仅供参考,具体实现还需要根据任务的特点和需求进行调整和优化。 ### 回答2: Python中的进程线程池是用于并行处理任务的工具,可以提高程序的执行效率。它们都是用来管理和调度多个子任务的工作流程。 进程线程池的最大区别在于它们使用的底层执行单元不同。进程使用进程作为执行单元,而线程池使用线程作为执行单元。 进程Python中通过`multiprocessing.Pool`类进行实现,它可以创建多个子进程,并将任务分配给这些子进程进行并行处理。在创建进程时,可以指定最大进程数,以控制并行处理的程度。进程提供了简单易用的接口,如`apply`、`apply_async`等方法,用于提交任务并获取任务的结果。 线程池则是通过`concurrent.futures.ThreadPoolExecutor`类实现的。线程池使用线程作为执行单元,可以同时执行多个任务,并且提供了相似的接口方法用于任务的提交和结果的获取。线程池中的线程可以复用,减少线程创建和销毁的开销。 进程线程池使用上有一些注意事项。首先,由于Python的全局解释锁(GIL)的存在,多线程在CPU密集型任务中并不能发挥真正的并行性能。但是对于IO密集型任务,使用线程池可以提高程序的执行效率。而进程则在CPU密集型任务中能够实现真正的并行处理。 其次,由于进程间通信的开销较大,进程在内存使用方面可能会比线程池更高。因此,在使用进程时需要注意控制进程的数量,以避免过多的内存消耗。 总结来说,进程适合CPU密集型任务,而线程池适合IO密集型任务。对于需要并行处理的任务,可以根据具体情况选择合适的并发处理方式来提高程序的执行效率。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值