scrapy 传入自定义参数的多个spider 同时启动

本文介绍了如何在Scrapy中创建一个`crawlall.py`命令,用于同时启动多个带有自定义参数的Spider。首先,在spiders同级目录创建`commands`文件夹,并在其中的`crawlall.py`中实现传入参数的功能。通过设置Scrapy的`settings`,确保每个Spider能关联到相应的Pipeline。最后,在项目根目录的`run.py`中配置启动逻辑,运行前需正确配置Settings以连接Spider和Pipeline。
摘要由CSDN通过智能技术生成
  1. 在spiders 同级目录下新建一个commands 文件夹
  2. 在commands文件夹里新建crawlall.py 和__init__.py文件
  3. __init.py 文件为空
  4. crawlall.py 内容如下:

里面包含了传入自定义参数 ,input()

 id = input('请输入id:')     # 传入自定义参数
        for name in spider_list:
            self.crawler_process.crawl(name, ID = id,**opts.spargs)  # 传入自定义参数
        self.crawler_process.start ()

完整代码:

import os
from scrapy.commands import ScrapyCommand
from scrapy.utils.conf import arglist_to_dict
from scrapy.utils.python import without_none_values
from scrapy.exceptions import UsageError


class Command(ScrapyCommand):
    requires_project = True

    def syntax(self):
        return "[options] <spider>"

    def short_desc(self)
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值