python 线程池:
为啥用线程池?
对于任务数量不断增加的程序,每有一个任务就会生成一个线程,最终会导致线程数量失控,所以固定线程数量的线程池是必要的。
使用concurrent.futures模块,这个模块是python3中自带的模块
,它提供了ThreadPoolExecutor
和ProcessPoolExecutor
两个类
代码如下:
#coding:utf-8
from concurrent.futures import ThreadPoolExecutor
def test(x):
print(x)
time.sleep(2)
def func():
data = [1,2,3,4]
start1 = time.time()
for i in data:
test(i) #普通方式
end1 = time.time()
print(end1-start1)
start2 = time.time()
with ThreadPoolExecutor(4)as excutor:
for i in data:
excutor.submit(test,i) #线程池submit提交方式
end2 = time.time()
print(end2-start2)
start3= time.time()
with ThreadPoolExecutor(4) as excutor1:
excutor1.map(test,data) #线程池map提交方式
end3= time.time()
print(end3-end2)
func()
输出如下:
1
2
3
4
8.002520084381104
1
2
3
4
2.0023066997528076
1
2
3
4
2.00166916847229
注意到一点:
concurrent.futures.ThreadPoolExecutor
,在提交任务的时候,有两种方式,一种是submit()函数,另一种是map()函数,两者的主要区别在于:
2.1、map可以保证输出的顺序, submit输出的顺序是乱的
2.2、如果你要提交的任务的函数是一样的,就可以简化成map。但是假如提交的任务函数是不一样的,或者执行的过程之可能出现异常(使用map执行过程中发现问题会直接抛出错误)就要用到submit()
2.3、submit和map的参数是不同的,submit每次都需要提交一个目标函数和对应的参数,map只需要提交一次目标函数,目标函数的参数放在一个迭代器(列表,字典)里就可以。