部署Scrapy

部署蜘蛛

部署蜘蛛以定期运行它们的不同选项。在您的本地机器中运行 Scrapy 蜘蛛对于(早期)开发阶段非常方便,但是当您需要执行长时间运行的蜘蛛或移动蜘蛛以在生产中连续运行时,就不那么方便了。这就是部署报废蜘蛛的解决方案。

部署报废蜘蛛的常见选择是:

  • Scrapyd(开放源代码)
  • Zyte Scrapy Cloud(基于云)

部署到ScrapyD服务器

Scrapyd 是一个开放源码的应用程序,可以运行 Scrapy 蜘蛛。它为服务器提供了HTTP API,能够运行和监视 Scrapy 蜘蛛。

要将spiders部署到scrapyD,可以使用由提供的scrapyD部署工具 scrapyd-client 包裹。请参阅 scrapyd-deploy documentation 更多信息。

ScrapyD由一些Scrapy开发人员维护。

部署到Zyte Scrapy Cloud

Zyte Scrapy Cloud 是一项托管的基于云的服务,由 Zyte, Scrapy背后的公司。

Zyte Scrapy Cloud消除了设置和监控服务器的需要,并提供了一个不错的UI来管理蜘蛛并查看抓取的项目、日志和统计数据。

要将爬行器部署到Zyte Scrapy Cloud,可以使用 shub 命令行工具。请参阅 Zyte Scrapy Cloud documentation 了解更多信息。

Zyte Scrapy Cloud与Scrapyd兼容,用户可以根据需要在它们之间切换-配置从 scrapy.cfg 文件就像 scrapyd-deploy

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

卑微小钟

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值