scrapyd部署爬虫项目

我们为什么要部署部署爬虫功能?
功能:它就相当于是一个服务器,用于将自己本地的爬虫代码,打包上传到服务器上,让这个爬虫在服务器上运行,可以实现对爬虫的远程管理。(远程启动爬虫,远程关闭爬虫,远程查看爬虫的一些日志。)
步骤:
1.Scrapd的安装。
Pip install scrapyd
2.如何将本地的爬虫项目Deploying(打包),上传至scrapyd这个服务中?
①scrapyd提供了一个客户端工具,就是scrapyd-client,使用这个工具对scrapyd这个服务进行操作,比如:向scrapyd服务打包上传项目。scrapyd-client类似于redis-cli.exe、mongodb数据库的client。
scrapyd-client下载地址:https://github.com/scrapy/scrapyd-client
②Pip install scrapyd-client==1.2.0a1

注意:服务端scrapyd(==1.2)和客户端scrapyd-client(==1.1)安装的版本一定要保持一致。
3.上述服务和客户端安装好之后,可以启动scrapyd这个服务了,服务启动之后,不要关闭。
在这里插入图片描述
访问127.0.0.1:6800,在cmd命令中点击回车,出现以下页面表

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值