可视化爬虫ScrapydWeb的安装(Linux)(python3及以上)
官方文档:https://github.com/my8100/files/blob/master/scrapydweb/README_CN.md
首先需要安装 scrapyd(可移步安装)
安装 pip3 install scrapydweb
在scrapyd挂起的状态下运行scrapydweb
在python scrapydweb的安装目录下执行 scrapydweb 如 /usr/local/python3/bin/在此目录下
首次启动将会在当前目录下生成配置文件“scrapydweb_settings_v8.py” v8或v10
更改此配置文件
启动HTTP基本认证
ENABLE_AUTH = True
USERNAME = 'username'
PASSWORD = 'password'
ENABLE_LOGPARSER = False
如果需要冲外部访问,添加SCRAPYD_SERVERS,支持字符串和元组两种配置格式
依次修改一下配置
SCRAPYDWEB_BIND = '0.0.0.0'
SCRAPYDWEB_PORT = 6804
SCRAPYD_SERVERS = [
'127.0.0.1:6800',
# 'username:password@localhost:6801#group',
('', '', '你的服务器公网IP', '6804', 'group'),
]
然后重新运行 scrapydweb 访问 http://127.0.0.1:6804即可