Python爬虫入门教程 73-100 Python分布式爬虫顶级教程

写在前面

题目中有个顶级，忽然觉得这篇博客要弄的高大上一些，要不都对不起标题呢？

上篇博客，我们已经将分布式需要配置的一些基本环境已经配置完毕，接下来就是实操环节了，这部分尽量将过程描述清晰，由于我操作的是windows操作系统，所以博客中相关步骤的截图都已windows为准。

对于分布式爬虫初学阶段，先从scrapy简单爬虫写起即可。

scrapy爬取CSDN下载频道

为了测试方便，我找了一个规则比较简单的网址，CSDN下载频道 https://download.csdn.net/ ，该网址对应的数据可以通过
https://download.csdn.net/home/get_more_latest_source?page=2 修改URL中参数page的值即可以不断获取数据，非常贴心。

创建爬虫

通过scrapy创建一个基本的爬虫，关于如何创建，本文不再涉及，可翻阅之前文章即可，注意，因为我电脑安装scrapy多个，并且本项目采用了虚拟环境，所以scrapy中添加了完整路径。