MacOS 安装多版本scrapy用于解决不同版本的爬虫项目的依赖问题,比如老项目的reqser 模块在 Scrapy 2.5.0 版本中已被删除,在scrapy 2.11版本运行就会报错。
要在 macOS 上安装多个版本的 Scrapy 并在它们之间切换,可以使用 Python 虚拟环境
- 安装 virtualenv:
pip install virtualenv
- 为Scrapy 2.4.1创建虚拟环境:
# 选择要创建虚拟环境的目录environment
mkdir scrapy_2.4.1
cd scrapy_2.4.1
# # 创建一个虚拟环境(如果需要,将 python3 替换为你的 Python 解释器)
virtualenv -p python3 venv
# 激活虚拟环境
source venv/bin/activate
- 在虚拟环境中安装Scrapy 2.4.1:
# 安装Scrapy 2.4.1
pip install scrapy==2.4.1
- 验证 Scrapy 版本:
scrapy version
这应该显示版本号为 2.4.1。
- 停用虚拟环境:
deactivate
- 对于其他 Scrapy 版本重复步骤 2-5:
重复此过程为其他 Scrapy 版本创建并激活虚拟环境。例如,您可以为Scrapy 2.5.0创建一个单独的目录:
mkdir scrapy_2.5.0
cd scrapy_2.5.0
virtualenv -p python3 venv
source venv/bin/activate
pip install scrapy==2.5.0
scrapy version
deactivate
- 在虚拟环境之间切换不同的scrapy版本:
激活要使用的Scrapy版本的虚拟环境:
# For Scrapy 2.4.1
cd path/to/scrapy_2.4.1
source venv/bin/activate
# For Scrapy 2.5.0
cd path/to/scrapy_2.5.0
source venv/bin/activate
当想要切换到另一个版本时,需停用当前的虚拟环境:
deactivate
通过使用虚拟环境,可以隔离不同的Scrapy版本并在它们之间轻松切换。确保在运行 Scrapy 命令之前激活所需的虚拟环境。