功能:相当于一个服务器,用于将自己本地的爬虫代码,打包上传到服务器上,让这个爬虫在服务器上运行,可以实现对爬虫的远程管理。(远程启动爬虫、关闭爬虫、查看爬虫的一些日志)
1.scrapyd的安装:在cmd中,输入指令
:pip install scrapyd
2.安装服务与客户端
a>scrapyd提供了一个客户端工具,就是scrapyd-client,使用这个工具对scrapyd这个服务进行操作,比如:向scrapyd服务打包上传项目。scrapyd-client类似于redis-cli.exe、MongoDB数据库的client。
scrapyd-client下载地址:https://github.com/scrapy/scrapyd-client
b>pip install scrapyd-client=1.2.0a1
注意:服务端scrapyd(默认版本1.2)和客户端scrapyd-client(默认版本1.1)安装的版本一定要一致
3.安装完服务与客户端之后,启动scrapyd,直接在cmd中输入scrapyd就可以启动了,服务启动之后不要关闭cmd窗口
然后打开浏览器访问网址127.0.0.1:6800
,出现以下页面表示成功启动scrapyd服务: