azkaban上传包mysql参数修改_Azkaban 2.5.0的详细安装过程

准备插件:

一、MySQL安装与配置

启动数据库并查看状态:sudo service mysqld start

sudo service mysqld status

2c5ff49ae983d25db4066d0b14ad16a3.png

登陆mysql:以root用户登陆

mysql -u root -p

b08a3e4b701b0950d7f1cfc95440e538.png

1)为Azkaban单独创建一个数据库:

create database azkaban

ebf2d543fb892efe870731b16c34b773.png

2)单独创建一个数据库用户,实际生产中最好单独创建一个用户,这里我使用azkaban/***1234,并对用户授权

创建:create user 'azkaban'@'主机名' identified by 'azkaban';(用户azkaban、主机名、对数据库azkaban)

授权:grant select,insert,update,delete,create,index on `azkaban`.* to 'azkaban'@'主机名' with grant option;

4a300d3160dbd7b4d9a24b7513d5c366.png

6502b318cda8016a379af7bed6926116.png

接下来通过刚创建的用户登陆mysql

b8f898790bd78375e9b5f88323cc2129.png

报错,再执行下面的

mysql> grant all privileges on *.* to 'azkaban'@'%' identified by 'azkaban' with grant option;

Query OK, 0 rows affected (0.00 sec)

mysql> grant all privileges on *.* to 'azkaban'@'master' identified by 'azkaban' with grant option;

Query OK, 0 rows affected (0.00 sec)

mysql> grant all privileges on *.* to 'azkaban'@'localhost' identified by 'azkaban' with grant option;

Query OK, 0 rows affected (0.00 sec)

3a0d3d3a9ad6df15d698068643aa92bc.png

3bfc2bb7d2ff77433240ccb34df41e35.png

select user,host,password from mysql.user;

e409e75fd2c74eb8612ac2136ca23001.png

此时就可以通过azkaban账号登陆了

e7ccd4b651933e1d9f8162de2ad787a5.png

3) 为azkaban建表:

下载azkaban-sql-script-2.5.0.tar.gz 解压缩

执行create-all-sql-2.5.0.sql

mysql -u azkaban -pazkaban -Dazkaban

上传解压

4846bbf573c8987b5544edd6a9d47d70.png

901ecb04eaba98d5552eebbf86bbaf35.png

退出,做重定向

mysql -uazkaban -pazkaban -Dazkaban

2d0bb8c46a70c3dab173bf764e50c4b8.png

再次登录

e5e89cf87742cbb0d39b12f178fec14a.png

78d4c9b4065c1b5bdb909eb884c92a62.png

完成

4)准备jdbc驱动

下载jdbc驱动包,webserver和executor-server都需要它,将其放入到webserver和executor-server的extlib目录下(2.5版本是自带的不需要配置)

二、配置Azkaban Web Server

1)安装web server

下载  解压缩

18fc400204962fe3d27589822a8221cc.png

c59186b1a6b6220b02d4889d877a1ccf.png

e6d61ef9687aedbe9acb0c9bab28ee4d.png

上传依赖包

把mysql驱动上传至/home/hadoop/app/azkaban-web-2.5.0/extlib

b775a18cac351a3df5a35969e0b8e883.png

2)Getting KeyStore for SSL(生成KeyStore文件)

keytool -keystore keystore -alias jetty -genkey -keyalg RSA

0ad4173a3b8ac76a660f04e6be5c21b1.png

密码尽量一致(包括大小写)

修改配置文件:conf/azkaban.properties

修改

3740775f4c142547a1f5895d06e791af.png

# Azkaban Jetty server properties.

jetty.maxThreads=25

jetty.ssl.port=8443

jetty.port=8081

jetty.keystore=/home/hadoop/app/azkaban-web-2.5.0/web/keystore

jetty.password=******

jetty.keypassword=******

jetty.truststore=/home/hadoop/app/azkaban-web-2.5.0/web/keystore

jetty.trustpassword=******

修改

setting up to the DB

3c8bd0d8537d32099ee5eeed67d25919.png

#Loader for projects

executor.global.properties=/home/hadoop/app/azkaban-web-2.5.0/conf/global.properties

azkaban.project.dir=projects

database.type=mysql

mysql.port=3306

mysql.host=localhost

mysql.database=azkaban

mysql.user=azkaban

mysql.password=azkaban

mysql.numconnections=100

修改

e044871c295ed55b3b203dc077e16514.png

#Azkaban UserManager class

user.manager.class=azkaban.user.XmlUserManager

user.manager.xml.file=/home/hadoop/app/azkaban-web-2.5.0/conf/azkaban-users.xml

修改

5dc8300dc6d1f9f581cd2dd9a94a6f5b.png

#Azkaban Personalization Settings

azkaban.name=Test

azkaban.label=My Local Azkaban

azkaban.color=#FF3601

azkaban.default.servlet.path=/index

web.resource.dir=/home/hadoop/app/azkaban-web-2.5.0/web/

default.timezone.id=America/Los_Angeles

启动web server

bin/azkaban-web-start.sh

bin/azkaban-web-shutdown.sh

https://192.168.80.11:8443/

3f27ffbd58aeef938c2628e2a39f5a16.png

c1ba9a8eb14919ad6f46cb649dbcf1b1.png

回车

https://192.168.80.11:8443/   web页面展示

fe8255605cae6d938729857d5ec1c03d.png

7ba072235e68cd553f4c076198947a7f.png

配置安装完成!!!!!

三、配置安装Azkaban Executor Server

1)安装Azkaban Executor Server

下载azkaban-executor-server-2.5.0.tar.gz  上传、解压缩即可。

67880f40313ce8fac1fefe8a31e6203a.png

0c9d58420e615212a0a5609cd358b328.png

2)配置数据库(setting up to DB)

修改cof/azkaban.properties

c00cca5e803096c46ae26b1ff0c786ca.png

6b5f3f1ca2d9af0583d5d3fd9ab1b079.png

#Loader for projects

executor.global.properties=conf/global.properties

azkaban.project.dir=projects

database.type=mysql

mysql.port=3306

mysql.host=localhost

mysql.database=azkaban

mysql.user=azkaban

mysql.password=azkaban

mysql.numconnections=100

3)配置端口号

86c0664a6a8737d4177b7720cba03162.png

bd761f62dec61d87e1eb6b5e04d45c31.png

默认配置不动即可(webserver和executorserver都用默认不需改动,如若自己想修改则两端都要改成一致)

注意:对于两种不同的模式,配置是不一样的了:

single executor mode:executor.port=12321即可。只需要和AzkabanWebServer的azkaban.properties下的executor.port保持一致就OK了。

4)启停Executor Server

bin/azkaban-exec-start.sh

bin/azkaban-exec-shutdown.sh

f02ecc5d504585b0fa2818b9c83f6c89.png

c29e010a745cad7bd3282917d3666d68.png

报错是由于没有指定全路径,找不到文件。所以在配置时尽量使用全路径即可

0e4067a28e5a8afd6d9e411be0b13b71.png

jps可以发现即使报错但是还是启动起来了,这里先干掉再启动

2183baa6d732bc8ee4af10902271c3e5.png

f66a0da5ef6d69d8080a938938e9ec79.png

重新启动

e81be9668a4f5e98f6823bec84df6353.png

成功

四、多个Executor Server 模式

待续。。。。。。。

五、配置Azkaban插件

azkaban设计的思路是使非核心功能基于插件,所以核心功能非常轻便,安装升级方便,而且很容易扩展到不同的操作系统。

web server 插件:

viewer plugins

trigger plugins

user manager plugins

alerter plugins

executor server插件:

注意:注意之前的疏忽,这里调整时区

web server

5d42bb60654d0b50b6a4718fc3a17c78.png

executor server

dcb986b6850ec5a3c21ed27ce9168a14.png

调整完成 重新启动 生效

六、创建工作流

桌面创建两个后缀名为.job的文件

d54e9cfad97f661fc083430c761b6aa3.png

0805d920eb625b799f0e5d2e53d657d6.png

9b4f2bb964cb5e90ffb61270132bad8e.png

打包

8b850de7ba93639c3489dd9d98695a31.png

登陆web界面:https://192.168.80.11:8443/

c9f07c5b93dac299869ef2e2ff70ffaf.png

创建组

aa0e6185b82358482e6787181844dd3d.png

771a67575ab18b8cd716ce6058e7ccf7.png

5aae64cd3eedec5ab2798dfdb10d01e0.png

上传工作流

decea15d00b69097e9b197a8075cde13.png

e26c6cc7e69bf572c61e6ce594d5f7b9.png

80c0f780a485480bb1dceaecfb75a6b5.png

393a2457fcfc38bc89cdf04424b90185.png

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值