airflow CeleryExecutor模式报错

这几天运行airflow发现运行的Task总是报错,并且在页面上没有报错信息:

f62b0fdd2f24bd1f21b89a779385b148704.jpg

查看Schedule的报错日志,没有什么头绪

74d99dc325fe39b19ea01ed1064a385ae10.jpg

查看本地Task运行日志,没有对应的文件。

说明:Task根本没有运行,运行命令top,发现图片上的进程有很多。

5d70885b72ed56d1fcd964a9f8a6ec2c442.jpg

停止redis后,发现没有了,但是启动redis 有重新出现了。

然后在看celery  运行命令 ps -ef|grep celery  有很多的celery 没有释放。

4457ad783d18d12af6be71ff1d2b338f98f.jpg

 

释放这些celery后,运行Task正常,

注释:过多的celery未释放,是由于Task未执行完,我们手动置状态导致的,如图:

cf38d27eb1a3735418f8497fc75808bfac7.jpg

 

 

转载于:https://my.oschina.net/ilovetao/blog/3060851

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值