Azkaban介绍

Azkaban介绍

Azkaban是一个批量工作流任务调度器,主要用于在一个工作流内以一个特定的顺序运行一组工作和流程,它的配置是通过简单的key:value对的方式,通过配置中的Dependencies 来设置依赖关系。

Azkaban的组成

Azkaban可以自定义插件,一般而言,Azkaban由三部分组成。

  • AzkabanWebServer是整个Azkaban工作流系统的主要管理者,它负责用户登录认证、project管理、定时执行工作流、跟踪工作流执行进度等一系列任务。
  • 负责具体的工作流的提交、执行,它们通过mysql数据库来协调任务的执行。
  • 关系型数据库(MySQL):存储大部分执行流状态,AzkabanWebServer和AzkabanExecutorServer都需要访问数据库

Azkaban安装

  1. 将以上三个组件解压
  2. 数据库的配置,启动数据库,并创建一个用户和azkaban表,use azkaban,然后使用source "../create-all-sql***.sql"创建azkaban运行时需要的所有数据表
  3. web配置,主要配置azkaan.properties,配置全部使用绝对路径。web.resource.dir ,default.timezone.id, user.manager.xml.fileexecutor.global.properties, mysql.host, mysql.user,mysql.password,jetty.**
  4. 配置jetty时需要自己生成keystore文件,最后在azkaban-users.xml之中添加一个用户,配置权限
  5. Executor配置,修改azkaban.properties。只要是配置sql相关的配置。将executor.global.properties配置为全路径

Azkaban的使用

编写job文件

#step1.job
type=command        //命令类型。可以是javaprocess和command
dependencies=start  //依赖,此处意为需要执行start后才能执行step1
command=start-hdfs.sh //具体的命令
#Java.job
type=javaprocess
java.class=azkaban.JavaJob
classpath=lib/*

将Job打包为zip文件上传到指定的页面,点吧点吧就能使用了。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值