协程定义:
协程,又称微线程,纤程。英文名Coroutine。
子程序,或者称为函数,在所有语言中都是层级调用,比如A调用B,B在执行过程中又调用了C,C执行完毕返回,B执行完毕返回,最后是A执行完毕。
所以子程序调用是通过栈实现的,一个线程就是执行一个子程序。
子程序调用总是一个入口,一次返回,调用顺序是明确的。而协程的调用和子程序不同。
协程看上去也是子程序,但执行过程中,在子程序内部可中断,然后转而执行别的子程序,在适当的时候再返回来接着执行。
注意,在一个子程序中中断,去执行其他子程序,不是函数调用,有点类似CPU的中断。
那和多线程比,协程有何优势?
最大的优势就是协程极高的执行效率。因为子程序切换不是线程切换,而是由程序自身控制,因此,没有线程切换的开销,和多线程比,线程数量越多,协程的性能优势就越明显。
第二大优势就是不需要多线程的锁机制,因为只有一个线程,也不存在同时写变量冲突,在协程中控制共享资源不加锁,只需要判断状态就好了,所以执行效率比多线程高很多。
因为协程是一个线程执行,那怎么利用多核CPU呢?最简单的方法是多进程+协程,既充分利用多核,又充分发挥协程的高效率,可获得极高的性能。
Python对协程的支持还非常有限,用在generator中的yield可以一定程度上实现协程。虽然支持不完全,但已经可以发挥相当大的威力了。
来看例子:
传统的生产者-消费者模型是一个线程写消息,一个线程取消息,通过锁机制控制队列和等待,但一不小心就可能死锁。
如果改用协程,生产者生产消息后,直接通过yield跳转到消费者开始执行,待消费者执行完毕后,切换回生产者继续生产,效率极高:
-
# yield 的生产者消费者模型
-
def consumer():
-
r = 'i am start now!!!'
-
while True:
-
i = yield r
-
print 'consuming task %s' % i
-
r = '200 Done'
-
def producer(c):
-
start_up = c.next() # 或者c.send(None) 启动生成器, 遇到yield 返回 重新来到这里
-
print 'start_up is %s' % start_up
-
n = 5
-
i = 0
-
while i < n:
-
i+=1
-
print 'producing task is %s' % i
-
res = c.send(i) # 生产了一个任务,通过 send(i) 把函数执行权切换到consumer,消费者接收任务处理, 此时consumer 的yield r 表达式等于send()的参数,即i=i
-
# 而send(i) 的返回值就由consumer的yield r产生,yield r 可以相当于return r 所以,res=“200 Done”
-
print 'consumer done ,res: %s' % res
-
c.close() # 不生产任务了,就关闭生成器
-
c = consumer()
-
producer(c)
上面的协程运行流程是:
- c = consumer() 创建一个生成器,注意并不是执行一个函数,这里只会生成一个生成器对象,没有执行里面的任何代码, 要启动生成器,需要c.next() 或者c.send(None)来启动。
- produce(c) 把c生成器传进去producer,然后start_up=c.next() 这里就是启动了consumer()生成器,
启动的意思是,开始运行生成器,直到遇到yield , 就会把yield后面的内容返回,并且回到原来的地方,
这里遇到了yield r, 相当于把r变量返回(想象成return r), 并且回到执行c.next()的函数(producer)来,继续执行producer的代码。
所以start_up = c.next() 做了两件事:- 进去了另外一个函数consumer()执行, 直到遇到yield
- 遇到 yield r, 然后就回到producer里面了,顺便把r的值给到start_up, 这里是start_up="i am start now!!!"
- 保留现场,这次停留在哪个yield, 下次回来就会在这个yield继续
- 上面启动了consumer生成器后回到来,producer()继续跑下面的代码, 遇到res=c.send(1),
这里的c.send() 相当于 c.next(),也是重新回到生成器里面执行 ,只不过send()可以带参数,把参数带过去生成器。
所以 res = c.send(1), 做了几件事:- 重新进入consumer()生成器,回到上一次跳出来的yield位置, 也就是yield r
- 并且不同