正常情况下scrapy在windows下面安装时非常麻烦的。这里面涉及到各种库的安装。
关于库的安装,平常的安装方法很有可能失败,可能受网速等原因的限制。直接在dos控制台下面安装容易失败。特此,我们使用的方法是将包先下载到本地(这个过程比较慢,有条件的可以翻墙),然后在控制台下用命令进行安装。
我们安装的库有:
1.wheel::直接输入pip install -i https://pypi.tunatsinghua.edu.cn/simple wheel
利用清华的镜像下载会比较快速。
2.lxml:直接输入pip install -i https://pypi.tunatsinghua.edu.cn/simple lxml
3.PyOpenssl:直接输入pip install -i https://pypi.tunatsinghua.edu.cn/simple PyOpenssl
4.Twisted:直接输入pip install -i https://pypi.tunatsinghua.edu.cn/simple twisted
5Pywin32 下载地址:https://sourceforge.net/projects/pywin32/files/pywin32/Build%20220/
找到适合自己的版本安装下载就可以了
6.scrapy 直接输入pip install -i https://pypi.tunatsinghua.edu.cn/simple scrapy
如果有些库安装出错,请尝试下列方法再次安装
以twisted库为例:
下载地址:http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted
将这个包下载下来以后,找到这个包的文件夹,然后右键属性,找到安全选项卡,点击找到对象名称,然后将内容全部复制过来;
然后在dos控制台下安装即可:命令为 pip install 你复制的内容
例如: pip install C:\Users\qs418\Downloads\Twisted-18.7.0-cp36-cp36m-win_amd64.whl
即可安装成功。
python爬虫之scrapy框架的安装(详细)
最新推荐文章于 2024-04-24 15:50:50 发布