一台电脑启动多个scrapyd

window环境,python3.7.0

找到包安装目录下的scrapyd配置文件..\Python37\Lib\site-packages\scrapyd\default_scrapyd.conf

打开default_scrapyd.conf的配置如下,修改bind_address = 0.0..0.0(允许远程访问)

[scrapyd]
eggs_dir    = eggs
logs_dir    = logs
items_dir   =
jobs_to_keep = 5
dbs_dir     = dbs
max_proc    = 0
max_proc_per_cpu = 4
finished_to_keep = 100
poll_interval = 5.0
bind_address = 0.0.0.0
http_port   = 6800
debug       = off
...
以下更多配置内容省略

 

复制default_scrapyd.conf这个配置文件到你要运行的scrapy项目目录下,并修改名字为scrapyd.conf

打开scrapyd.conf修改端口配置http_port = 6888,如下

[scrapyd]
eggs_dir    = eggs
logs_dir    = logs
items_dir   =
jobs_to_keep = 5
dbs_dir     = dbs
max_proc    = 0
max_proc_per_cpu = 4
finished_to_keep = 100
poll_interval = 5.0
bind_address = 0.0.0.0
http_port   = 6888
debug       = off
...
以下更多配置内容省略

在该scrapy项目目录下启动黑窗口,输入命令scrapyd -d 【scrapyd.conf所在的路径】

如下图,发现已经有6888启动scrapyd

在其他的项目同样的把scrapyd.conf复制过去,然后修改端口,然后项目目录启动。

后面scrapyd-deploy的时候,注意把项目里面的scrapy.conf文件里的端口号对应设置好就行。

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Scrapyd 是一个 Python 爬虫框架,可以用来管理和部署爬虫。如果你想在 Linux 系统上编写一个 shell 脚本来启动 Scrapyd 并将其放在后台运行,可以按照以下步骤: 1. 首先,需要确保 Scrapyd 已经安装并且可以正常运行。可以在终端中执行以下命令来检查 Scrapyd 版本号: ``` scrapyd -v ``` 如果输出了 Scrapyd 的版本号,说明 Scrapyd 已经安装成功了。 2. 然后,创建一个名为 `start_scrapyd.sh` 的文件,用于编写启动 Scrapyd 的 shell 脚本。 ``` touch start_scrapyd.sh ``` 3. 编辑 `start_scrapyd.sh` 文件,写入以下内容: ```bash #!/bin/bash # 启动 scrapyd echo "Starting scrapyd..." scrapyd & # 输出 scrapyd 运行状态 echo "Scrapyd is running now." ``` 在上面的脚本中,我们首先使用 `echo` 命令输出一条信息,表示正在启动 Scrapyd。然后,使用 `scrapyd &` 命令启动 Scrapyd 并将其放在后台运行。最后,再次使用 `echo` 命令输出一条信息,表示 Scrapyd 已经开始运行了。 4. 给 `start_scrapyd.sh` 文件添加执行权限: ``` chmod +x start_scrapyd.sh ``` 5. 现在,可以在终端中执行以下命令来启动 Scrapyd: ``` ./start_scrapyd.sh ``` 执行以上命令后,会输出一条信息表示正在启动 Scrapyd,然后就会立即返回到命令行提示符,而 Scrapyd 将会在后台继续运行。 如果想要停止 Scrapyd,可以在终端中执行以下命令: ``` pkill -f scrapyd ``` 以上命令会杀死所有名为 `scrapyd` 的进程,从而停止 Scrapyd 的运行。 希望以上步骤可以帮助你编写一个启动 Scrapyd 的 shell 脚本,并将其放在后台运行。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值