多线程mysql写入操作
# 数据库pymysql的commit()和execute()在提交数据时,都是同步提交至数据库,由于scrapy框架数据的解析和异步多线程的,所以scrapy的数据解析速度,要远高于数据的写入数据库的速度。如果数据写入过慢,会造成数据库写入的阻塞,影响数据库写入的效率。 # 通过多线程异步的形式对数据进行写入,可以提高数据的写入速度。 from pymysql import cursors # 使用twsited异步IO框架,实现数据的异步写入。 from twisted.enterprise import adbapi
class MySQLTwistedPipeline(object): """ MYSQL_HOST = 'localhost' MYSQL_DB = 'jobbole' MYSQL_USER = 'root' MYSQL_PASSWD = '123456'