python异步爬虫框架_Python中利用aiohttp制作异步爬虫及简单应用

摘要： 简介 asyncio可以实现单线程并发IO操作，是Python中常用的异步处理模块。关于asyncio模块的介绍，笔者会在后续的文章中加以介绍，本文将会讲述一个基于asyncio实现的HTTP框架——aiohttp，它可以帮助我们异步地实现HTTP请求，从而使得我们的程序效率大大提高。

简介

asyncio可以实现单线程并发IO操作，是Python中常用的异步处理模块。关于asyncio模块的介绍，笔者会在后续的文章中加以介绍，本文将会讲述一个基于asyncio实现的HTTP框架——aiohttp，它可以帮助我们异步地实现HTTP请求，从而使得我们的程序效率大大提高。

本文将会介绍aiohttp在爬虫中的一个简单应用。

在原来的项目中，我们是利用Python的爬虫框架scrapy来爬取当当网图书畅销榜的图书信息的。在本文中，笔者将会以两种方式来制作爬虫，比较同步爬虫与异步爬虫(利用aiohttp实现)的效率，展示aiohttp在爬虫方面的优势。

同步爬虫

首先，我们先来看看用一般的方法实现的爬虫，即同步方法，完整的Python代码如下：

'''

同步方式爬取当当畅销书的图书信息

'''

import time

import requests

import pandas as pd

from bs4 import BeautifulSoup

# table表格用于储存书本信息

table = []# 处理网页

def download(url):

html = requests.get(url).text

# 利用BeautifulSoup将获取到的文本解析成HTML

soup = BeautifulSoup(html, "lxml")

# 获取网页中的畅销书信息

book_list = soup.find('ul', class_="bang_list clearfix bang_list_mode")('li')

for book in book_list:

info = book.find_all('div')

# 获取每本畅销书的排名，名称，评论数，作者，出版社

rank = info[0].text[0:-1]name = info[2].text

comments = info[3].text.split('条')[0]author = info[4].text

date_and_publisher = info[5].text.split()

publisher = date_and_publisher[1] if len(date_and_publisher) >= 2 else ''

# 将每本畅销书的上述信息加入到table中

table.append([rank, name, comments, author, publisher])

# 全部网页

urls = ['http://bang.dangdang.com/books/bestsellers/01.00.00.00.00.00-recent7-0-0-1-%d' % i for i in range(1, 26)]# 统计该爬虫的消耗时间

print('#' * 50)

t1 = time.time() # 开始时间

for url in urls:

download(url)

# 将table转化为pandas中的DataFrame并保存为CSV格式的文件

df = pd.DataFrame(table, columns=['rank', 'name', 'comments', 'author', 'publisher'])

df.to_csv('E://douban/dangdang.csv', index=False)

t2 = time.time() # 结束时间

print('使用一般方法，总共耗时：%s' % (t2 - t1))

print('#' * 50)

输出结果如下：##################################################

使用一般方法，总共耗时：23.522345542907715