在纯净Linux中部署scrapy爬虫
基础环境:python 3.6+
scrapy 1.5.1
【常见异常】
1、(ModuleNotFoundError: No module named '_sqlite3')
先检查系统中是否正确安装sqlite系列包
Twisted版本与scrapy版本不兼容(Twisted ==18.4.0 升级到Twisted ==18.7.0(重新下载/编译)与上面的scrapy版本兼容)
2、crontab定时任务 执行scrapy异常但是在直接执行没有抛异常
/usr/bin/python3 -m site # 查看指定python解释器的资源环境
检查需要执行的项目文件中是否包含执行系统命令的语句,有的话检查该命令执行环境