为什么使用Scrapy框架来写爬虫？

如题：为什么使用Scrapy框架来写爬虫？

在Python爬虫中：Requests + Selenium可以解决目前90%的爬虫需求，难道Scrapy是解决剩下的10%的吗？

显然不是这样的。

Scrapy框架是为了让我们的爬虫更强大、更高效。接下来我们一起学习一下它吧。

（文末有总结的Scrapy框架福利，继续往下滑，不要停）

下面的是Scrapy的架构，包括组件以及在系统中发生的数据流的概览(红色箭头所示)。

Scrapy是一个为了爬取网站数据，提取结构性数据而编写的应用框架。可以应用在包括数据挖掘，信息处理或存储历史数据等一系列的程序中，Scrapy使用Twisted这个异步网络库来处理网络通讯，机构清晰，并且包含了各种中间件接口，可以灵活的完成各种需求。

那么你在学习Scrapy框架的时候都遇到哪些坑？我总结了我遇到的“问题”给你们做个对比

1、scrapy安装失败？

2、No module named scrapy ？

3、XPaths谷歌插件使用？

4、scrapy 生成json文件中文是Unicode字符？

5、解决爬取数据频繁时，被禁止？

你们知道这些问题我都是怎么解决的么？

我是看了廖雪峰老师的Scrapy框架教程解决的，并且已经总结好了一整套关于Scrapy的学习教程干货，分享给正被这些问题困扰着的伙伴。

廖雪峰老师  -  加盟开课吧

此套Scrapy视频是2018年6月份最新录制，价值1599元最全的Scrapy框架视频限时免费供大家学习，内容系统翔实，具体看下图??

Scrapy爬虫框架

添加下面的微信即可领取视频。由于通过之后会逐个发送资源，精力有限，【Python之禅】公众号专属福利，限额500个名额，先到先得！

（扫描两次，根据操作提示，即可添加） 

即可领取Scrapy视频

PS：希望你领到之后认真学习，不要做收！藏！党！

这套Scrapy视频由"开课吧"友情提供，大家熟知的IT技术大牛廖雪峰已加盟开课吧，并耗时半年研发了精品付费课程——《Python商业爬虫数据分析班》，所谓商业级别，短平快地解释就是：随心所欲，想爬谁就爬谁！对课程感兴趣也可以加微信了解。