可能大家在学习爬虫scrapy框架的时候,需要在Python3使用Scrapy框架(大多数教程和书籍的案例都是2.7),我们所做的工作都是为了"懒",接下来让我给大家简单说明如何在windows操作系统上安装scrapy吧。
系统: windows python版本: python3.6.2 32位
小伙伴们可以在https://doc.scrapy.org/en/1.2/intro/infstall.html看一下官方的安装scrapy说明书
安装scrapy是不能直接使用pip isntall scrapy的,因为还要安装许多的依赖包。
步骤1: 安装所需要的依赖包
parsel,w3lib,cryptography,pyOpenSSL这些都可以直接使用pip命令安装如pip install parsel()
而lxml和twisted使用pip安装则会出现错误(会在pypi社区检索一些符合条件的包,但是可能会产生错误,因为版本很多)
这两个包可以在如下的网站下载whl文件,之后安装。http://www.lfd.uci.edu/~gohlke/pythonlibs/
下载完whl文件之后,可以再dos下pip install 你安装的两个whl文件的目录这样就安装了。
步骤2: 使用pip安装scrapy
pip install scrapy 安装成功之后会显示Successfully
步骤3: Scrapy测试,敲一个基于Scrapy框架的爬虫程序
打开命令提示符窗口,输入命令如下:
Scrapy startproject turtoria
此处不会报错,会在你的当前目录下创建一个名为turtoria的文件,这样就算成功了
到这里scrapy安装完成了,小伙伴们可以开心的玩耍了。