Windows 环境下安装 Scrapy

Windows 环境下安装 Scrapy

最近正在学习 Scrapy ,尽管我们工作环境环境是 Linux,安装和配置起来都比较方便,但是学习环境中大部分都是 Windows 系统,安装 Scrapy 的过程很繁琐,所以将我安装Scrapy 的整个过程记录下来,希望可以帮助到正在学习的小伙伴们。
先列一下我的主要环境:

  • Windows 10
  • Python 3.7.1
  • Scrapy 1.5

前置工作

安装Python

首先肯定是要官网下载 Python 的安装包安装 Python,然后配置好环境变量,确保 Python 可以正常使用。这个就很简单了,没什么好说的。

切换安装源

因为国内网络环境的问题,使用 pip 从默认的安装源安装依赖和模块时容易超时中断下载,导致安装失败,所以我们先要将默认的安装源切换为国内的镜像,以提升安装的成功率。国内镜像主要有:

清华:https://pypi.tuna.tsinghua.edu.cn/simple
阿里云:http://mirrors.aliyun.com/pypi/simple/
中国科技大学:https://pypi.mirrors.ustc.edu.cn/simple/
华中理工大学:http://pypi.hustunique.com/
山东理工大学:http://pypi.sdutlinux.org/
豆瓣:http://pypi.douban.com/simple/

具体步骤为:
在Users/your user name/目录下新建一个文件夹pip,然后在该文件夹下新建一个pip.ini文件:
文件夹目录
在文件中输入以下内容并保存:

[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple

意思就是指定一个全局的安装源,从上面的列表挑一个就好。如果成功,当我们在下载模块的时候出现该安装的日志信息:
切换镜像

安装 Scrapy 依赖模块

接下来我们需要安装Scrapy的相关依赖模块:wheel、lxml、Twisted、pywin32。

安装lxml

这个库这个库非常容易安装,直接在cmd窗口输入:pip intsall lxml
如果出现提升pip版本过低的异常先按照提示输入 python -m pip install --upgrade pip 升级一下pip,然后再安装;

安装wheel模块

直接输入命令 pip install wheel
wheel

安装Twisted模块

这个模块直接安装的时候会有问题,所以我们采用安装.whl文件的方式进行安装。
我们先通过 >这个网站< 使用快捷键 Ctrl+F 搜索 Twisted 关键字找到自己 Python 对应的版本,我的 Python3.7 对应的是 Twisted‑18.9.0‑cp37‑cp37m‑win_amd64.whl,点击下载,然后切换到文件所在目录,然后输入 pip install Twisted‑18.9.0‑cp37‑cp37m‑win_amd64.whl 进行安装;
Twisted版本
Twisted安装成功

安装pywin32模块

我们去 >这里< 找到对应的版本并下载
pywin32版本
然后切换到文件所在目录输入 pip install pywin32-224-cp37-cp37m-win_amd64.whl 进行安装:
安装成功

安装 Scrapy

好了,至此准备工作都已经完成,接下来开始安装 Scrapy。首先我们从 >这里< 下载对应的文件 Scrapy-1.5.1-py2.py3-none-any.whl,然后切换到文件所在目录输入 pip install Scrapy-1.5.1-py2.py3-none-any.whl 进行安装
安装完成
至此安装已经完成,接下来我们可以输入 scrapy 查看信息:
Scrapy test
如果出现了这些信息那么恭喜你安装成功了!

Anaconda

最后,其实我们可以通过另外一种更加简单的方式来安装 Scrapy,那就是直接安装anaconda,但是会安装许多我们不一定能用上的依赖和库。
Anaconda
Anaconda指的是一个开源的 Python 发行版本,其包含了 conda、Python 等180多个科学包及其依赖项。其中就包括了 Scrapy,我们可以从> 官网< 了解关于它的更多信息,可以进入 >网站子页< 下载安装该软件包。
安装包下载页面

但是学习阶段还是自己手动安装比较好。

end.

  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值