Scrapy
Scrapy是一个很强大的Python爬虫程序,但是在Windows上安装时经常会出现各种问题。
Windows
Windows安装命令:C:\>pip install scrapy
或C:\>python -m pip install scrapy
单步安装
若下载安装依赖失败,可以尝试单步安装依赖:
- lxml:
pip install lxml
- pyOpenSSL
自动:pip install pyOpenSSL
手动
1.下载:https://pypi.python.org/pypi/pyOpenSSL#download
2.安装:pip install pyOpenSSL-17.5.0-py2.py3-none-any.whl
- Twisted
自动:pip install Twisted
手动1
下载:https://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted
安装:pip install Twisted‑17.9.0‑cp36‑cp36m‑win_amd64.whl
- PyWin32
下载:https://sourceforge.net/projects/pywin32/files/pywin32
安装:双击pywin32-221.win-amd64-py3.6.exe
Microsoft Visual C++ is required.
若你没有安装过MS-VC++,会出现白色的
error: Microsoft Visual C++ 14.0 is required. Get it with "Microsoft Visual C++ Build Tools": http://landinghub.visualstudio.com/visual-cpp-build-tools
--------------------
接着是以Command
开头的一大串红色错误详情,意味着你没有安装”Microsoft Visual C++ Build Tools”,打开https://aka.ms/BuildTools下载安装 Visual Studio Community 2017 即可。
Mac
Mac安装命令:Mac:~ user$ pip3 install scrapy
或Mac:~ user$ python3 -m pip install scrapy
Mac安装一般不会有问题
当然,如果某一个依赖下载安装失败,也可以根据名称单独下载安装。
- 文件名更具系统而定,
win_amd64
表示Windows x86-64 (64位) 系统,Windows x86 (32位) 可以下载win32
版本。 ↩