Scrapy的安装

Scrapy的安装
众所周知,Scrapy 是一个高级的python爬虫框架,功能极其强大,拥有它就可以快速编写出一个爬虫项目,拥有它就可以搭建分布式架构。那么,请问这么强大的框架要怎么拥有?很简单,由于我只尝试了Windows平台下的安装,所以下文也是该平台下的安装步骤。

Windows的安装是比较常见的,相对其他两种系统,在Windows下的安装步骤比较繁琐,但也不难(往下看,还有一种简单的安装方式)。只要在它安装Scrapy之前,安装几个其他的依赖库就行了。

第一个安装的依赖库是lxml ,命令是:

pip install lxml

第二个依赖库是pyOpenSSL,这个库的安装步骤是这样子的:

1.进入https://pypi.org/project/pyOpenSSL/#downloads 下载wheel文件; 
2.在命令行窗口执行pip install (需要加上你下载文件的路径名)\pyOpenSSL-18.0.0-py2.py3-none-any.whl

第三个依赖库是Twisted库,安装步骤是:

1.进入http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted ,下载对应的版本 

è¿éåå¾çæè¿°
 
2.在命令行执行命令pip install Twisted‑xxx‑cpxx‑cpxxm‑win_amdxx.whl即可

第四个依赖库是pywin32:

è¿éåå¾çæè¿°

1.进入网址https://sourceforge.net/projects/pywin32/files/pywin32/Build%20221/ 下载对应的版本。 

我的是python3.6,系统是64位的所以我下载了这个版本 
2.双击exe文件安装即可

以上我们的依赖库就安装好了,如果没有出现问题就可以安装Scrapy了,安装Scrapy很简单,只需要在命令行执行pip install scrapy,就可以拥有这个强大的框架了。

上面就介绍Windows平台下的安装方式之一(这个方式我不喜欢!),还有一种更简单的安装方式——Anaconda下的安装。 
如果你已经安装了Anaconda 的话,那么你只需要在命令行下执行conda intall Scrapy 就可以轻松地安装了,为什么会这么简单呢?那是因为Anaconda已经安装好Scrapy 所需要的依赖库了。

当然,还有其他平台的安装,步骤都才不多,可以参考静觅的博客,他写得很详细。

安装好Scrapy后就可以开始简单的学习了。

  • 10
    点赞
  • 17
    收藏
    觉得还不错? 一键收藏
  • 5
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值