简介
没有切换开销。因为子程序切换不是线程切换,而是由程序自身控制,没有线程切换的开销,因此执行效率高,
不需要锁机制。因为只有一个线程,也不存在同时写变量冲突,在协程中控制共享资源不加锁,只需要判断状态就好了,所以执行效率比多线程高很多
Python对协程的支持还非常有限,用在generator中的yield可以一定程度上实现协程。
yield
传统的生产者-消费者模型是一个线程写消息,一个线程取消息,通过锁机制控制队列和等待,但一不小心就可能死锁。
如果改用协程,生产者生产消息后,直接通过yield跳转到消费者开始执行,待消费者执行完毕后,切换回生产者继续生产,效率极高
代码
importtimedefconsumer():
r= ''
whileTrue:
n= yieldrif notn:return
print('[CONSUMER] Consuming %s....' %n)
r= '200 OK'
defproduce(c):
c.next()
n=0while n < 5:
n= n + 1
print('[PRODUCER] Producing %s...' %n)
r=c.send(n)print('[PRODUCER] Consumer return: %s\n' %r)
c.close()if __name__=='__main__':
c=consumer()
produce(c)
结果
[PRODUCER] Producing 1...
[CONSUMER] Consuming1....
[PRODUCER] Consumerreturn: 200OK
[PRODUCER] Producing2...
[CONSUMER] Consuming2....
[PRODUCER] Consumerreturn: 200OK
[PRODUCER] Producing3...
[CONSUMER] Consuming3....
[PRODUCER] Consumerreturn: 200OK
[PRODUCER] Producing4...
[CONSUMER] Consuming4....
[PRODUCER] Consumerreturn: 200OK
[PRODUCER] Producing5...
[CONSUMER] Consuming5....
[PRODUCER] Consumerreturn: 200 OK
分析
首先调用c.next()启动生成器
然后,一旦生产了东西,通过c.send(n)切换到consumer执行
consumer通过yield拿到消息,处理,又通过yield把结果传回
produce拿到consumer处理的结果,继续生产下一条消息
整个过程无锁,由一个线程执行,producer和consumer写作完成任务,所以叫做协程
gevent
Python通过yield提供了对协程的基本支持,但是不完全。而第三方的gevent为Python提供了比较完善的协程支持
gevent是第三方库,通过greenlet实现协程,其基本思想是:
当一个greenlet遇到IO操作时(比如访问网络),就自动切换到其他的greenlet,等到IO操作完成,再在适当的时候切换回来继续执行。由于IO操作非常耗时,经常使程序处于等待状态,有了gevent为我们自动切换协程,就保证总有greenlet在运行,而不是等待IO。
importgeventdeff(n):for i inrange(n):printgevent.getcurrent(), i
g1= gevent.spawn(f, 5)
g2= gevent.spawn(f, 5)
g3= gevent.spawn(f, 5)
g1.join()
g2.join()
g3.join()
结果
0 1
2
3
4
0 1
2
3
4
0 1
2
3
4
可以看出3个greenlet依次运行,而不是交替运行
要让greenlet交替运行,可以通过gevent.sleep()交出控制权
importgeventdeff(n):for i inrange(n):printgevent.getcurrent(), i
gevent.sleep(1)
g1= gevent.spawn(f, 3)
g2= gevent.spawn(f, 3)
g3= gevent.spawn(f, 3)
g1.join()
g2.join()
g3.join()
结果
000 1
1
1
2
2
2
可以看出3个greenlet是交替执行
如果把循环改为1000,让执行次数执行时间长些,查看进程,可以看到线程只有一个。
当然,实际代码中,不可能用gevent.sleep()去切换协程,而是在执行IO操作是,gevent自动切换,参考代码如下
importgeventfrom gevent importmonkey; monkey.patch_all()importurllib2deff(url):print 'GET: %s' %url
resp=urllib2.urlopen(url)
data=resp.read()print '[%d] bytes received from %s\n' %(len(data), url)
gevent.joinall([
gevent.spawn(f,'http://www.cnblogs.com/kaituorensheng/'),
gevent.spawn(f,'https://www.python.org/'),
gevent.spawn(f,'https://www.baidu.com'),
])
执行结果
GET: http://www.cnblogs.com/kaituorensheng/GET: https://www.python.org/GET: https://www.baidu.com
[227] bytes received from https://www.baidu.com
[14667] bytes received from http://www.cnblogs.com/kaituorensheng/[47348] bytes received from https://www.python.org/
可以看到3个url结束顺序并不是依次执行完的。
注
使用gevent,可以获得极高的并发性能,但gevent只能在Unix/Linux下运行,在Windows下不保证正常安装和运行。
由于gevent是基于IO切换的协程,所以最神奇的是,我们编写的Web App代码,不需要引入gevent的包,也不需要改任何代码,仅仅在部署的时候,用一个支持gevent的WSGI服务器,立刻就获得了数倍的性能提升。