airflow问题系列1 —— Airflow调度了但不执行任务

1.错误描述

所有脚本在调度了之后但都不执行任务。如下图所示：

2.错误原因：

这是因为airflow的其中一个进程scheduler down掉的原因。在服务器上查看进程webserver和scheduler

ps -ef | grep 'webserver'

ps -ef | grep 'scheduler'

如果进程down掉就将进程重启放在后台运行。

airflow webserver &

airflow scheduler &

3.方案优化：

可以设置一下airflow进程监控脚本airflow_monitor.sh，并开启了crontab的定时调度。

#!/bin/bash
source /etc/profile
count=`ps aux| grep 'airflow-webserver'|grep -v "grep" | wc -l`
echo ${count}
if [ ${count} -eq 0 ]
then
   nohup airflow webserver &
else
   date
   echo "airflow-webserve is running..."
fi

count1=`ps aux| grep 'airflow scheduler'|grep -v "grep" | wc -l`
echo ${count1}

if [ ${count1} -eq 0 ]
then
   nohup airflow scheduler &
else
   date
   echo "airflow-scheduler is running..."
fi

 

4.crontab定时调度设置：

使用命令修改定时调度任务：

crontab -e // 修改定时调度任务

配置如下：

*/1 * * * * /bin/sh /home/airflow/airflow_monitor.sh >/home/airflow/airflow_monitor.log

*/1 表示每分钟调度一次监控脚本，实时监控airflow进程是否出现问题，如有问题立即重启进程。

 

附加信息：crontab相关命令

crontab –e : 修改 crontab 文件. 如果文件不存在会自动创建。 
crontab –l : 显示 crontab 文件。 
crontab -r : 删除 crontab 文件。
crontab -ir : 删除 crontab 文件前提醒用户。

具体其他crontab的相关操作，请查看其他crontab相关文档。