前言
scrapy 是一个基于Twisted的异步处理框架,是纯python实现的爬虫框架,其架构清晰,模块之间的耦合程度低,可扩展性极强,可以灵活完成各种需求。
安装
1、python版本为3.8,安装目录采用默认目录(一定要按照这个目录,不用修改任何配置文件)
2、.直接安装wheel,在cmd直接
pip install wheel
查看是否安装成功
3、安装whl文件
下载地址:https://www.lfd.uci.edu/~gohlke/pythonlibs/
搜索Scrapy
找到Scrapy-1.8.0-py2.py3-none-any.whl点击下载
进入下载目录执行安装
pip3 install Scrapy-1.8.0-py2.py3-none-any.whl
4、安装Twisted(指定版本下载)
下载地址:https://www.lfd.uci.edu/~gohlke/pythonlibs/
进入下载存放路径
pip3 install Twisted-20.3.0-cp38-cp38-win_amd64.whl
5、安装Scrapy
pip install Scrapy
6、安装结束,测试项目创建
scrapy startproject gyptest