上一篇文章我们简单介绍了一下Azkaban以及怎样安装部署Azkaban,本文我们通过几个案例来看一下怎样使用Azkaban。关注专栏《破茧成蝶——大数据篇》,查看更多相关的内容~
目录
一、Azkaban调度单一job
1、创建job文件
type=command
command=echo 'This is first Azkaban job.'
这里需要注意的是, job文件的后缀必须为.job,且需要将保存好的文件压缩成.zip格式,作业名称在项目中必须是唯一的。
2、启动Azkaban,并创建Project。
3、点击upload上传压缩包。
4、压缩包没有问题,可以在MySQL中看到相关的job信息。
5、点击Schedule,配置定时任务。
6、可以在此处设置执行的日期等参数。
7、执行job,绿色代表执行成功。
二、Azkaban调度有依赖关系的多个job
1、首先需要编写几个具有依赖关系的job,如下所示:
1、first.job
type=command
command=echo 'This is first Azkaban job.'
2、second.job
type=command
command=echo 'This is second Azkaban job.'
dependencies=first
3、third.job
type=command
command=echo 'This is third Azkaban job.'
dependencies=first
4、fouth.job
type=command
command=echo 'This is fouth Azkaban job.'
dependencies=second,third
并将编辑好的job文件压缩成一个zip文件。
2、创建项目并上传压缩包
3、执行
4、在对应目录查看log信息以及job信息
三、Azkaban调度Java程序
1、编写Java程序并打包
package com.xzw.azkaban;
import java.io.FileOutputStream;
/**
* @author: xzw
* @create_date: 2021/4/28 8:33
* @desc:
* @modifier:
* @modified_date:
* @desc:
*/
public class JavaJob {
public static void main(String[] args) throws Exception {
FileOutputStream fos = new FileOutputStream("/opt/modules/azkaban/files/javajob.job");
fos.write("This is a Java job!".getBytes());
fos.close();
}
}
2、编写job文件
type=javaprocess
java.class=com.xzw.azkaban.JavaJob
classpath=./azkaban.jar
3、将job文件和jar包压缩到同一个zip文件中
4、在Azkaban监控界面新建项目,上传文件并执行
5、查看执行结果
四、Azkaban调度MapReduce任务
1、创建job文件并压缩成zip文件
type=command
command=/opt/modules/cdh/hadoop-2.5.0-cdh5.3.6/bin/hadoop jar /opt/modules/cdh/hadoop-2.5.0-cdh5.3.6/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.5.0-cdh5.3.6.jar wordcount /xzw/input /xzw/output
2、上传并测试
我们可以通过后台查看输出的文件:
以上就是本文的所有内容,比较简单。你们在此过程中遇到了什么问题,欢迎留言,让我看看你们都遇到了哪些问题~