9本文介绍使用shell调用kettle job实现数据调度功能。
主要功能:
1、通过crontab定时调度shell
2、使用shell调用kettle job
3、调度异常发送邮件预警
shell调度kettle job的脚本实现
基本步骤为
1、创建extract文件夹,用于存放脚本&JOB配置文件
2、创建extract_log文件夹,用于存放调度log
3、在extract文件夹建立test.sh脚本
4、在extract文件夹中建立test_list.txt用于配置需要调度的JOB名称
test.sh脚本如下:
#!/bin/bash
#判断日志文件夹是否存在,不存在则创建
#以天为单位保存日志
#log_date_dir=`date '+/%Y/%M/%D'`
log_date_dir=`date '+%Y%m%d'`
log_dir=/extract_log/$log_date_dir
#echo $log_dir
#判断日志文件目录是否存在
if [ -d $log_dir ];then
echo $log_dir exists!
else
#日志目录不存在则创建
mkdir $log_dir
fi
#循环执行转换JOB