python由于全局解释器锁GIL的存在导致对多线程的效率有不小影响,python为了提高并发提供了两个标准库concurrent.futures和multiprocessing,两者使用方式非常相似,都提拱了线程池和进程池操作。说到线程和进程,就不得不提下协程。我理解的是协程和多线程属于并发操作,而多进程则属于并行操作。并发操作利用的是cpu进行任务的切换,同一时间还是只有一个任务在执行,而协程和多线程的区别在于,线程之间的切换成本要不协程高很多,所以协程的并发能力更强。并发和并行并不冲突,比如我所负责的项目就是多线程开发和协程开发,多进程方式部署方式实现的。multiprocessing早于concurrent.futures出现,但是两者的性能基本一样。下面介绍下concurrent.futures的使用方法。
1.线程池
from concurrent.futures import ThreadPoolExecutor
with ThreadPoolExecutor(max_workers=10) as executor:
future = executor.submit(function, param)
result = future.result(timeout=1)
2.进程池
from concurrent.futures import ProcessPoolExecutor
with ProcessPoolExecutor(max_workers=10) as executor:
future = executor.submit(function, param)
result = future.result(timeout=1)