Azkaban3.80.1 源码编译 solo server环境部署

Azkaban is a batch workflow (工作流) job scheduler created at LinkedIn to run Hadoop jobs.
Azkaban是由Linkedin开源的一个批处理的工作流作业调度程序,用于Hadoop作业.
Azkaban resolves the ordering through job dependencies and provides an easy to use web user interface to maintain and track your workflows.
Azkaban通过作业依赖项解决排序问题,并提供易于使用的web用户界面来维护和跟踪工作流.
在这里插入图片描述

1.1克隆仓库切换分支
cd /usr/local
git clone https://github.com/azkaban/azkaban.git
cd azkaban
git tag
git checkout tags/3.80.1
git branch

在这里插入图片描述

1.2下载相应的依赖包并修改相应的配置
# Could not find Linker 'g++' in system path.
yum install -y gcc-c++*
yum install -y nodejs
cd /usr/local/azkaban/gradle/wrapper
wget https://services.gradle.org/distributions/gradle-4.6-all.zip
vim gradle-wrapper.properties


# gradle依赖包所在的位置.默认在当前路径下
distributionUrl=gradle-4.6-all.zip
#distributionUrl=https\://services.gradle.org/distributions/gradle-4.6-all.zip
1.3编译安装
cd /usr/local/azkaban
./gradlew build installDist -x test
# 查看工作目录结构
ll
azkaban-common # azkaban常用的工具类
azkaban-db # azkaban初始化的sql文件
azkaban-exec-server # 执行端的server
azkaban-hadoop-security-plugin # Hadoop权限验证
azkaban-spi # 存储接口,异常信息处理类

在这里插入图片描述

1.4修改界面配置并启动服务
# 1.修改界面配置
cd /usr/local/azkaban/azkaban-solo-server/build/distributions
tar -zxvf azkaban-solo-server-3.80.1.tar.gz
cd azkaban-solo-server-3.80.1/conf

vim azkaban.properties
# azkaban名字
azkaban.name=Cocktail_py
# azkaban标签
azkaban.label=Cocktail_py Local Azkaban
# 时区
default.timezone.id=Asia/Shanghai
# 底层的数据库
database.type=h2
# 默认使用jetty服务器,azkabn 端口
jetty.port=8081


# 2.新增一个用户和密码 (1)
vim azkaban-users.xml

# 3.以 Solo Server 的模式运行 (2)
cd /usr/local/azkaban/azkaban-solo-server/build/distributions/azkaban-solo-server-3.80.1
bin/start-solo.sh

# 4.验证
jps
AzkabanSingleServer

# 停止服务
# bin/shutdown-solo.sh

在这里插入图片描述
图1
在这里插入图片描述
图2

参考: https://azkaban.readthedocs.io/en/latest/getStarted.html
参考: http://www.36nu.com/post/326

版本:3.38,解压后,配置自己的环境可直接用 azkaban-3.38.0\azkaban-db azkaban-3.38.0\azkaban-exec-server azkaban-3.38.0\azkaban-solo-server azkaban-3.38.0\azkaban-web-server ----------------后续步骤------------------ 1.创建数据库并导入基本数据 (1)创建数据库 create database azkaban; (2)mysql授权 GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '123456' WITH GRANT OPTION; FLUSH PRIVILEGES; (3)导入数据 use azkaban; source /opt/azkaban-3.38.0/azkaban-db/create-all-sql-0.1.0-SNAPSHOT.sql 2. ssl配置 cd /opt/azkaban-3.38.0\azkaban-web-server keytool -keystore keystore -alias jetty -genkey -keyalg RSA 输入密钥库口令: 再次输入新口令: 您的名字与姓氏是什么? [Unknown]: xue 您的组织单位名称是什么? [Unknown]: xue 您的组织名称是什么? [Unknown]: xue 您所在的城市或区域名称是什么? [Unknown]: beijing 您所在的省/市/自治区名称是什么? [Unknown]: beijing 该单位的双字母国家/地区代码是什么? [Unknown]: CN CN=xue, OU=xue, O=xue, L=beijing, ST=beijing, C=CN是否正确? [否]: Y 输入 的密钥口令 (如果和密钥库口令相同, 按回车): 3.修改azkaban-exec-server下配置文件,引入mysql的依赖包 (1)将azkaban-solo-server下conf、plugins、sql目录复制到azkaban-exec-server目录下 cd azkaban-3.38.0/azkaban-solo-server/ cp -a ./conf ./plugins ./sql ../azkaban-exec-server (2)修改azkaban-exec-server/conf/的azkaban.properties文件 # Azkaban Personalization Settings azkaban.name=master azkaban.label=My Local Azkaban azkaban.color=#FF3601 azkaban.default.servlet.path=/index web.resource.dir=web/ #修改时区 default.timezone.id=Asia/Shanghai # Azkaban UserManager class user.manager.class=azkaban.user.XmlUserManager #修改为绝对路径,否则可能找不到 user.manager.xml.file=/opt/azkaban-3.38.0/azkaban-exec-server/conf/azkaban-users.xml # Loader for projects executor.global.properties=/opt/azkaban-3.38.0/azkaban-exec-server/conf/global.properties azkaban.project.dir=projects database.type=mysql mysql.port=3306 mysql.host=master mysql.database=azkaban mysql.user=root mysql.password=123456 mysql.numconnections=100 (其他默认) 4. 在conf目录下新建log4j.properties文件 [root@master azkaban-exec-server]# vim conf/log4j.properties 复制以下内容到log4j文件: log4j.rootLogger=INFO, Console log4j.logger.azkaban=INFO, server log
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Cocktail_py

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值