Azkaban部署与入门(3.X)

本文详细介绍了Azkaban批量工作流任务调度器的安装部署,包括solo server、two server和multiple-executor模式,重点讲解了two server模式的安装步骤,涵盖了从环境准备、下载安装、配置数据库、创建SSL到启动服务的全过程,并提供了Azkaban的简单使用示例。
摘要由CSDN通过智能技术生成

Azkaban简介

Azkaban 一个批量工作流任务调度器,使用Java语言开发。用于在一个工作流内以一个特定的顺序运行一组工作和流程。Azkaban使用job配置文件建立任务之间的依赖关系,并提供一个易于使用的web用户界面维护和跟踪你的工作流,当然Azkaban也可以使用API,来调用相应的操作和任务。

Azkaban 的优点:

  1. 提供功能清晰,简单易用的Web UI界面
  2. 提供job配置文件快速建立任务和任务之间的依赖关系
  3. 提供模块化和可插拔的插件机制,原生支持command、Java、Hive、Pig、Hadoop
  4. 基于Java开发,代码结构清晰,易于二次开发

Azkaban 有三种安装部署方式: 

  1. solo server model(单服务模式):该模式中 webServer 和 executorServer 运行在同一个进程中,进程名是AzkabanSingleServer。可以使用自带的H2数据库或者配置mysql数据。该模式适用于小规模的使用。此模式合适个人试用使用。它也可以用在小规模的使用案例中。
  2. two server model(2个服务模式):数据库为mysql,采用主从设置进行备份,管理服务器(webServer)和执行服务器(executorServer)在不同进程中运行,这种模式下,管理服务器和执行服务器互不影响。适用在较重的生成环境中。
  3. multiple-executor(分布式多服务模式):存放元数据的数据库为mysql,采用主从设置进行备份,管理服务器(webServer)和执行服务器(executorServer)在不同进程中运行。多个 Executor 模式为最重的生产环境。
  • Azkaban安装部署

在集群环境下一般使用多服务器模式,two server和multiple-executor模式安装配置差不多,本文安装配置的是two server模式。solo模式安装比较简单,如果想要安装配置solo模式可以去官网查看。

  1. 安装前准备
  1. 在Vmware上安装linux环境
  2. 在linux上安装JDK1.8
  3. 在linux上安装MySQL
  1. 下载

在Azkaban的GitHub上下载Azkaban的安装包,本文下载的是Azkaban3.80.0版本,下载在/usr/local目录下,命令如下代码 1所示。

代码 1 下载Azkaban安装包

git clone https://github.com/azkaban/azkaban.git

编译

进入到刚刚下载完的Azkaban的目录下,执行命令./gradlew distTar,如图 1所示。

                                          

                                                                          图 1 编译Azkaban安装包

拷贝

新建文件夹来存放azkaban-3.8的安装文件,将第3步编译好的Azkaban相关的安装包拷贝到新建文件azkaban-3.80.0,如代码 2所示。

代码 2 拷贝文件

cp azkaban/azkaban-exec-server/build/distributions/azkaban-exec-server-3.80.0-1-g94ddcf2.tar.gz azkaban-3.80.0/

cp azkaban/azkaban-web-server/build/distributions/azkaban-web-server-3.80.0-1-g94ddcf2.tar.gz azkaban-3.80.0/

cp azkaban/azkaban-db/build/distributions/azkaban-db-3.80.0-1-g94ddcf2.tar.gz azkaban-3.80.0/

解压 重命名

解压第4步拷贝到的安装包,为了方便后面的操作,重命名解压后的文件,如代码 3所示。

代码 3 解压 重命名

cd /usr/local/azkaban-3.80.0/

tar –zxvf azkaban-db-3.80.0-1-g94ddcf2.tar.gz

tar –zxvf azkaban-exec-server-3.80.0-1-g94ddcf2.tar.gz

tar –zxvf azkaban-web-server-3.80.0-1-g94ddcf2.tar.gz

#重命名

mv azkaban-db-3.80.0-1-g94ddcf2.tar.gz azkaban-db

mv azkaban-exec-server-3.80.0-1-g94ddcf2.tar.gz azkaban-web-server

mv azkaban-exec-server-3.80.0-1-g94ddcf2.tar.gz azkaban-exec-server

创建Azkaban元数据库

登录linux的mysql,创建Azkaban数据库,并导入相应的数据表,如代码 4所示。

代码 4 创建Azkaban元数据库

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值