【Python3网络爬虫开发实战】6.4-分析Ajax爬取今日头条街拍美图

【摘要】 本节中，我们以今日头条为例来尝试通过分析Ajax请求来抓取网页数据的方法。这次要抓取的目标是今日头条的街拍美图，抓取完成之后，将每组图片分文件夹下载到本地并保存下来。

1. 准备工作

在本节开始之前，请确保已经安装好requests库。如果没有安装，可以参考第1章。

2. 抓取分析

在抓取之前，首先要分析抓取的逻辑。打开今日头条的首页http://www.toutiao.com/，如图6-15所示。

图6-15 首页内容

右上角有一个搜索入口，这里尝试抓取街拍美图，所以输入“街拍”二字搜索一下，结果如图6-16所示。

图6-16 搜索结果

这时打开开发者工具，查看所有的网络请求。首先，打开第一个网络请求，这个请求的URL就是当前的链接http://www.toutiao.com/search/?keyword=街拍，打开Preview选项卡查看Response Body。如果页面中的内容是根据第一个请求得到的结果渲染出来的，那么第一个请求的源代码中必然会包含页面结果中的文字。为了验证，我们可以尝试搜索一下搜索结果的标题，比如“路人”二字，如图6-17所示。

图6-17 搜索结果

我们发现，网页源代码中并没有包含这两个字，搜索匹配结果数目为0。因此，可以初步判