多进程(多核运算)Multiprocessing

多核运算

目录

1.什么是 Multiprocessing

2.添加进程 Process

3.存储进程输出 Queue

4.效率对比 threading & multiprocessing

5.进程池 Pool

6.共享内存 shared memory

7.进程锁 Lock

1.什么是 Multiprocessing

将任务分配给多个核进行计算,单独的核有自己的运算空间,运算能力,真正的做到各个部分的任务被同时执行,实现并行操作而不是多线程的伪并行,让你的多核计算机发挥真正潜力

多进程 Multiprocessing 和多线程 threading 类似, 他们都是在 python 中用来并行运算的. 不过既然有了 threading, 为什么 Python 还要出一个 multiprocessing 呢? 原因很简单, 就是用来弥补 threading 的一些劣势, 比如在 threading 教程中提到的GIL.
使用 multiprocessing也非常简单,如果对threading有一定了解的朋友,你们的享受时间就到了.因为python把multiprocessing和threading的使用方法做的几乎差不多.这样我们就更容易上手. 也更容易发挥你电脑多核系统的威力了!

2.添加进程 Process

#导入线程进程标准模块 
import multiprocessing as mp
import threading as td

#定义一个被线程和进程调用的函数 
def job(a,d):
    print('aaaaa')

#创建线程和进程,只是定义线程或进程要做什么,传入的参数有什么,名字叫什么,但是还未开始工作。
t1 = td.Thread(target=job,args=(1,2))
p1 = mp.Process(target=job,args=(1,2))

#分别启动线程和进程,线程与进程开始工作
t1.start()
p1.start()

#分别连接线程和进程,线程和进程join作用一致
t1.join()
p1.join()

注意:Thread和Process的首字母都要大写,被调用的函数没有括号,如果有会直接调用函数,而不会增加进程或线程,被调用的函数的参数放在args(…)中。从上面的使用对比代码可以看出,线程和进程的使用方法相似

多进程应用

完整的应用代码:

import multiprocessing as mp

def job(a,d):
    print('aaaaa')

if __name__=='__main__':
    p1 = mp.Process(target=job,args=(1,2))
    p1.start()
    p1.join()

如果要应用多进程multprocess,必须在主函数之下使用,不可以直接运行,会产生报错,这是一种特殊的格式要求。在mac中运行环境要在terminal环境下,可能其他的编辑工具会出现运行结束后没有打印结果,在window和linux下直接运行应该也没问题,在terminal中的运行后打印的结果为:

aaaaa

3.存储进程输出 Queue

Queue的功能是将每个核或线程的运算结果放在队里中,等到每个线程或核运行完毕后再从队列中取出结果,继续加载运算。原因很简单,多线程调用的函数不能有返回值,所以使用Queue存储多个线程运算的结果。

把结果放在Queue里定义一个被多线程调用的函数,q就像一个队列,用来保存每次函数运行的结果

#该函数没有返回值!!!
def job(q):
    res=0
    for i in range(1000):
        res+=i+i**2+i**3
    q.put(res)    #queue
#主函数 定义一个多线程队列,用来存储结果
if __name__=='__main__':
    q = mp.Queue()
#定义两个线程函数,用来处理同一个任务, args的参数只要一个值的时候,参数后面需要加一个逗号,表示args是可迭代的,后面可能还有别的参数,不加逗号会出错

p1 = mp.Process(target=job,args=(q,))
p2 = mp.Process(target=job,args=(q,))
#分别启动、连接两个线程
p1.start()
p2.start()
p1.join()
p2.join()
#上面是分两批处理的,所以这里分两批输出,将结果分别保存

res1 = q.get()
res2 = q.get()
#打印最后的运算结果
print(res1+res2)

运行的时候还是要在terminal中,最后运行结果为

499667166000

总结

我们首先定义一个多线程的queue,并将这个queue放在一个多进程参数之中,没运行完一个进程的之后,回将结果放在这个结果队列当中,当我们所有进程结束之后,我们的这个结果队列就装满了所有的进程所运行得到的值,我们再一个个读取queue当中的值就可以得到每一个进程所运行得到的结果,接下来我们就可以对得到的结果做进一步的运算,这里边是输出结果之和

4.效率对比 threading & multiprocessing

我们比较一下相同任务是多进程快呢,还是多线程快呢,还是都不用快呢

创建多进程 multiprocessing

和上节一样,首先import multiprocessing并定义要实现的job(),同时为了容易比较,我们将计算的次数增加到1000000

import multiprocessing as mp

def job(q):
    res = 0
    for i in range(1000000):
        res += i + i**2 + i**3
    q.put(res) # queue
    
#因为多进程是多核运算,所以我们将上节的多进程代码命名为multicore()
def multicore():
    q = mp.Queue()
    p1 = mp.Process(target=job, args=(q,))
    p2 = mp.Process(target=job, args=(q,))
    p1.start()
    p2.start()
    p1.join()
    p2.join()
    res1 = q.get()
    res2 = q.get()
    print('multicore:',res1 + res2)

创建多线程 multithread

接下来创建多线程程序,创建多线程和多进程有很多相似的地方。首先import threading然后定义multithread()完成同样的任务

import threading as td

def multithread():
    q = mp.Queue() # thread可放入process同样的queue中
    t1 = td.Thread(target=job, args=(q,))
    t2 = td.Thread(target=job, args=(q,))
    t1.start()
    t2.start()
    t1.join()
    t2.join()
    res1 = q.get()
    res2 = q.get()
    print('multithread:', res1 + res2)

创建普通函数

最后我们定义最普通的函数。注意,在上面例子中我们建立了两个进程或线程,均对job()进行了两次运算,所以在normal()中我们也让它循环两次

def normal():
    res = 0
    for _ in range(2):
        for i in range(1000000):
            res += i + i**2 + i**3
    print('normal:', res)

运行时间

最后,为了对比各函数运行时间,我们需要import time, 然后依次运行定义好函数:

import time

if __name__ == '__main__':
    st = time.time()
    normal()
    st1 = time.time()
    print('normal time:', st1 - st)
    multithread()
    st2 = time.time()
    print('multithread time:', st2 - st1)
    multicore()
    print('multicore time:', time.time() - st2)

大功告成,下面我们来看下实际运行对比。
结果对比 :

# range(1000000)
('normal:', 499999666667166666000000L)
('normal time:', 1.1306169033050537)
('thread:', 499999666667166666000000L)
('multithread time:', 1.3054230213165283)
('multicore:', 499999666667166666000000L)
('multicore time:', 0.646507978439331)

结果分析:

普通/多线程/多进程的运行时间分别是1.13,1.3和0.64秒。 我们发现多核/多进程最快,说明在同时间运行了多个任务。 而多线程的运行时间居然比什么都不做的程序还要慢一点,说明多线程还是有一定的短板的。

我们将运算次数加十倍,再来看看三种方法的运行时间:

“”"

range(10000000)

(‘normal:’, 4999999666666716666660000000L)
(‘normal time:’, 40.041773080825806)
(‘thread:’, 4999999666666716666660000000L)
(‘multithread time:’, 41.777158975601196)
(‘multicore:’, 4999999666666716666660000000L)
(‘multicore time:’, 22.4337899684906)
“”"
这次运行时间依然是 多进程 < 普通 < 多线程,由此我们可以清晰地看出哪种方法更有效率。

5.进程池 Pool

这次我们讲进程池Pool。进程池就是我们将所要运行的东西,放到池子里,Python会自行解决多进程的问题,比如如何分配进程的任务,如何处理得到的结果之类的问题。

首先import multiprocessing和定义job()

import multiprocessing as mp

def job(x):
    return x*x
#进程池 Pool() 和 map() 
然后我们定义一个Pool
def multicore():
    pool = mp.Pool()
    res = pool.map(job, range(10))
    print(res)
    
if __name__ == '__main__':
    multicore()

有了进程池以后,我们可以将值对应上所需要的功能,然后把往里面丢数据,然后他就会返回出这个进程执行功能所返回的值,而之前我们所说的有td的process,他执行调用的功能是没有返回值的,你只能把他调用功能的输出结果放在一个队列里面,然后从队列里面返回出结果值,但是在pool里面呢,你创建的多进程所调用的功能就有返回值并直接作为进程结果的返回值返回给res。

而我们如何让进程池执行我们指定的功能,我们要把我们所调用的功能job和指定的参数map到一起去,那我的方程式job,然后我的我要给它的值是一个0到9的列表。

有了池子之后,就可以让池子对应某一个函数,我们向池子里丢数据,池子就会返回函数返回的值。Pool和之前的Process的不同点是丢向Pool的函数有返回值,而Process的没有返回值。

接下来用map()获取结果,在map()中需要放入函数和需要迭代运算的值,然后它会自动分配给CPU核,返回结果
让我们来运行一下

运行结果:
python [0, 1, 4, 9, 16, 25, 36, 49, 64, 81]

运行分析: 我们定义了一个进程池,往里放一个方程和要计算的值,进程池会自动将任务分给每一个核,每一个cpu,每一个进程去计算,并将运算结果作为进程结束的返回值返回。

自定义核数量

我们怎么知道Pool是否真的调用了多个核呢?我们可以把迭代次数增大些,然后打开CPU负载看下CPU运行情况

打开CPU负载(Mac):活动监视器 > CPU > CPU负载(单击一下即可)

Pool默认大小是CPU的核数,也就是将任务分配给我们所有的核,我们也可以通过在Pool中传入processes参数即可自定义需要的核数量,

def multicore():
    pool = mp.Pool(processes=3) # 定义CPU核数量为3
    res = pool.map(job, range(10))
    print(res)
apply_async() 

Pool除了map()外,还有可以返回结果的方式,那就是apply_async(),也是将功能和值进行结合的.apply_async()中只能传递一个值,它只会放入一个核进行运算,但是传入值时要注意是可迭代的,所以在传入值后需要加逗号, 同时需要用get()方法获取返回值

def multicore():
    pool = mp.Pool() 
    res = pool.map(job, range(10))
    print(res)
    res = pool.apply_async(job, (2,))
    # 用get获得结果
    print(res.get())

运行结果;

[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]
4

apply_async()和多个值结合

apply_async()只能和单个值结合,如果想像上面map一样和多个值结合,会产生报错即

res = pool.apply_async(job, (2,3,4))

结果会报错:
TypeError: job() takes exactly 1 argument (3 given)
即apply_async()只能输入一组参数。

用 apply_async() 输出多个结果
那么如何用apply_async()输出多个迭代在此我们将apply_async()放入迭代器中,定义一个新的multi_res

multi_res = [pool.apply_async(job, (i,)) for i in range(10)]

同样在取出值时需要一个一个取出来

print([res.get() for res in multi_res])

合并代码:

def multicore():
    pool = mp.Pool() 
    res = pool.map(job, range(10))
    print(res)
    res = pool.apply_async(job, (2,))
    # 用get获得结果
    print(res.get())
    # 迭代器,i=0时apply一次,i=1时apply一次等等
    multi_res = [pool.apply_async(job, (i,)) for i in range(10)]
    # 从迭代器中取出
    print([res.get() for res in multi_res])

运行结果

[0, 1, 4, 9, 16, 25, 36, 49, 64, 81] # map()
4
[0, 1, 4, 9, 16, 25, 36, 49, 64, 81] # multi_res
可以看出在apply用迭代器的得到的结果和用map得到的结果是一样的

总结

Pool默认调用是CPU的核数,传入processes参数可自定义CPU核数
map() 放入很多哥迭代参数,自动分配给多个进程,多个核进行运算,返回多个结果

apply_async()只能放入一组参数,并且只讲这一组参数放到一个核中进行运算,并返回一个结果,如果想得到map()的效果需要通过迭代

6.共享内存 shared memory

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-eKppRrOo-1614353754983)(3626EFE4BC544B46BB9F55F5A9A4B60A)]
如图是一个典型的4和cpu,它的共享内存就是他中间框1的位置,在我们的正常运算当中和多线程运算当中比如我们定义一个global变量,那么我们在不同线程之间的全局变量是互通的,可以相互分享的,而在多进程当中即使不同的进程中传入了全局变量A分给每一个cpu的话,但是不同进程之间计算完的A想要交流的话是行不通的,此时的全局变量不可以共享,比如全局变量A初始值为0,第一个核计算加1,第二个核计算加2,再传给下一个核,这样是行不通的,为了让CPU的核之间有交流我们要使用共享内存的方法。这节我们学习如何定义共享内存,实现不同进程之间的通信。共享内存在多个核的中间,每个核可以摄取共享内存的内容进行加工处理,可以一个先对其进行加工处理完之后,让下一个核接着处理数据,实现多个核对同一个数据的处理,实现信息共享。

Shared Value

我们可以通过使用Value数据存储在一个共享的内存表中。

import multiprocessing as mp

value1 = mp.Value('i', 0) 
value2 = mp.Value('d', 3.14)

其中d和i参数用来设置数据类型的,d表示一个双精浮点类型,i表示一个带符号的整型。更多的形式请查看本页最后的表.

Shared Array

在Python的mutiprocessing中,有还有一个Array类,可以和共享内存交互,来实现在进程之间共享数据。

array = mp.Array('i', [1, 2, 3, 4])

这里的Array和numpy中的array不同,它只能是一维的,不能是多维的。同样和Value 一样,需要定义数据形式,否则会报错。我们会在后一节举例说明这两种的使用方法.

错误形式

array = mp.Array('i', [[1, 2], [3, 4]]) # 2维list

运行结果:
“”"
TypeError: an integer is required
“”"

参考数据形式

各参数代表的数据类型

Type codeC TypePython TypeMinimum size in bytes
'b'signed charint1
'B'unsigned charint1
'u'Py_UNICODEUnicode character2
'h'signed shortint2
'H'unsigned shortint2
'i'signed intint2
'I'unsigned intint2
'l'signed longint4
'L'unsigned longint4
'q'signed long longint8
'Q'unsigned long longint8
'f'floatfloat4
'd'doublefloat8

(来源:https://docs.python.org/3/library/array.html)

7.进程锁 Lock

本节以锁在共享内存中的应用为例

不加进程锁

让我们看看没有加进程锁时会产生什么样的结果。

import multiprocessing as mp
import time

def job(v, num):
    for _ in range(5):
       #暂停0.1秒,让输出效果更明显
        time.sleep(0.1) 
        # v.value获取共享变量值
        v.value += num 
        print(v.value, end="")
        
def multicore():
    # 定义共享变量
    v = mp.Value('i', 0) 
    p1 = mp.Process(target=job, args=(v,1))
    p2 = mp.Process(target=job, args=(v,3)) # #设定不同的number看不同的进程如何如何抢夺内存
    p1.start()
    p2.start()
    p1.join()
    p2.join()
    
if __name__ == '__main__':
    multicore()

在上面的代码中,我们定义了一个共享变量v,两个进程都可以对它进行操作。 在job()中我们想让v每隔0.1秒输出一次累加num的结果,但是在两个进程p1和p2 中设定了不同的累加值。所以接下来让我们来看下这两个进程是否会出现冲突。

运行一下:

1
4
5
8
9
12
13
16
17
20

我们可以看到进程1和进程2在相互抢着使用共享内存v。,每一个进程会抢夺共享内存取给它累加值。有的时候会产生同时使用共享内存同时加值产生重复的现象,我们可以用加进程锁来解决。

加进程锁

为了解决上述不同进程抢共享资源的问题,我们可以用加进程锁来解决。

#在job()中设置进程锁的使用,保证运行时一个进程的对锁内内容的独占
def job(v, num, l):
    l.acquire() # 锁住
    for _ in range(5):
        time.sleep(0.1) 
        v.value += num # v.value获取共享内存
        print(v.value)
    l.release() # 释放
    
def multicore():
    # 定义一个进程锁
然后将进程锁的信息传入各个进程中
    l = mp.Lock() 
    v = mp.Value('i', 0) # 定义共享内存
    p1 = mp.Process(target=job, args=(v,1,l)) # 需要将lock传入
    p2 = mp.Process(target=job, args=(v,3,l)) 
    p1.start()
    p2.start()
    p1.join()
    p2.join()
if __name__ == '__main__':
    multicore()

运行一下,让我们看看是否还会出现抢占资源的情况:

1
2
3
4
5
8
11
14
17
20

显然,加了进程锁之后,在第一次累加的过程中就不会再有其他进程来抢夺共享内存,从而保证了进程p1的完整运行,然后才进行了进程p2的运行,p2是基于p1已经就算好的value然后接着运算。进程锁保证了多进程时进程之间不相互干扰。

已标记关键词 清除标记
相关推荐
©️2020 CSDN 皮肤主题: 深蓝海洋 设计师:CSDN官方博客 返回首页