ua池和代理池

下载中间件

下载中间件（Downloader Middlewares） 位于scrapy引擎和下载器之间的一层组件。

作用：

（1）引擎将请求传递给下载器过程中， 下载中间件可以对请求进行一系列处理。比如设置请求的 User-Agent，设置代理等

（2）在下载器完成将Response传递给引擎中，下载中间件可以对响应进行一系列处理。比如进行gzip解压等。

我们主要使用下载中间件处理请求，一般会对请求设置随机的User-Agent ，设置随机的代理。目的在于防止爬取网站的反爬虫策略。

 

UA池：User-Agent池

作用：尽可能多的将scrapy工程中的请求伪装成不同类型的浏览器身份。

操作流程：

 　　1.在下载中间件中拦截请求

   　  2.将拦截到的请求的请求头信息中的UA进行篡改伪装

         3.在配置文件中开启下载中间件

代码展示：

代理池

作用：尽可能多的将scrapy工程中的请求的IP设置成不同的。

操作流程：

    1.在下载中间件中拦截请求

    2.将拦截到的请求的IP修改成某一代理IP

    3.在配置文件中开启下载中间件

代码展示：