并发编程利器Eventlet

Eventlet 是 由第二人生(Secondlife )开源的高度伸缩性的Python网络编 程库.

根据官方介绍大致特性如下:

• 非阻塞I/O模型
• 协程(Coroutines)使得开发者可以采用阻塞式的开发风格,却能够实现非阻塞I/O的效果
• 隐式事件调度,使得可以在Python解释器或者应用程序的某一部分去使用Eventlet

关于协程,大致可以理解成允许子程序可以多次暂停和恢复执行,是实现多任务的一种有效手段, 具体见这里

在Python的世界里,实现了nonblocking I/O的产品并不算少.比如内置的Asyncore和著名的Twisted.相比之下,Eventlet是更容易上手和使用的。

举个例子

import eventlet

pool = eventlet.GreenPool()

while True:    pool.spawn(func,args )

上面这段代码,几乎就是使用eventlet的范式：

• GreenPool 用来实现协程,保证并行;
• Spawn     用来调用相应的函数,完成具体业务.

每个func之间切换，实施“你运行一会、我运行一会”，并且在进行切换时必须指定何时切换以及切换到 哪，当出现阻塞时，就显式切换到另一 段没有被阻塞的代码段执行，直到原先的阻塞状况消失以后，再人工切换回原来的代码段继续处理.

Eventlet内置提供了一个基于上述原理实现的数据库连接池,目前仅支持MySQL和 PostgreSQL.为了测试其性能如何,我参考了gashero 的这篇文章 ,并简化了测试方案.

测试对象分别是MySQLdb(MySQL驱动的Python封 装),Eventlet.db_pool,DBUtils

测试代码如下:

import time

import random

import MySQLdb

import eventlet.db_pool as db_pool

from DBUtils.PooledDB import PooledDB

conn_kwargs={'host':'192.168.8.84','user':'root','passwd':'','db':'logs'}

sql="""SELECT * FROM test WHERE id=%d"""

pooled=db_pool.ConnectionPool(MySQLdb,**conn_kwargs)

pooldb=PooledDB(MySQLdb,**conn_kwargs)

def query(conn):

    cur=conn.cursor()

    cur.execute(sql%(random.randint(1,1000)))

    data=cur.fetchall()

    return cur

def print_now():

    print time.strftime("%H:%M:%S")

    return

def test1(times):

    print_now()

    for i in range(0,times):

        conn=MySQLdb.connect(**conn_kwargs)

        r = query(conn)

        r.close()

        conn.close()

    print_now()

    return

def test2(times):

    print_now()

    for i in range(0,times):

        conn=pooled.get()

        try:

            query(conn)

        finally:

            pooled.put(conn)

    print_now()

    return

def test3(times):

    print_now()

    for i in range(0,times):

        conn=pooldb.connection()

        r=query(conn)

        r.close()

        conn.close()

    print_now()

    return

然后进入Python解释器交互环境

Python -i db-pool-test.py

>>> test1(10000) //MySQLdb

16:04:34

16:11:25

>>> test2(10000) //Event

16:12:35

16:15:22

>>> test3(10000) //DBUtils

16:15:28

16:18:09

 

总体来看,和传统的MySQLdb相比,性能有了很大的提升,和DBUtils差别并不是很明显.

协程凶猛啊!