可视化爬虫ScrapydWeb的安装(Linux)

可视化爬虫ScrapydWeb的安装(Linux)(python3及以上)

官方文档:https://github.com/my8100/files/blob/master/scrapydweb/README_CN.md

首先需要安装 scrapyd(可移步安装)

安装 pip3 install scrapydweb

在scrapyd挂起的状态下运行scrapydweb
在python scrapydweb的安装目录下执行 scrapydweb 如 /usr/local/python3/bin/在此目录下

首次启动将会在当前目录下生成配置文件“scrapydweb_settings_v8.py” v8或v10
更改此配置文件

启动HTTP基本认证
ENABLE_AUTH = True
USERNAME = 'username'
PASSWORD = 'password' 

ENABLE_LOGPARSER = False

如果需要冲外部访问,添加SCRAPYD_SERVERS,支持字符串和元组两种配置格式
依次修改一下配置
SCRAPYDWEB_BIND = '0.0.0.0'
SCRAPYDWEB_PORT = 6804
SCRAPYD_SERVERS = [
    '127.0.0.1:6800',
    # 'username:password@localhost:6801#group',
    ('', '', '你的服务器公网IP', '6804', 'group'),
]

然后重新运行 scrapydweb 访问 http://127.0.0.1:6804即可

后台启动scrapydweb (尚未解决????)

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值