Oozie 与 Yarn 协同工作

记录一下Oozie针对于Yarn的安装和配置流程。本文Oozie的版本为3.3.2,Hadoop为2.2。

主要步骤:

1、下载oozie-3.3.2.tar.gz,然后执行命令“bin/mkdistro.sh -DskipTests”进行compile:


2、将编译生成的oozie-3.3.2工程copy到$OOZIE_HOME

3、在$OOZIE_HOME目录下创建目录libext,并将Hadoop相应的jar包、ext-2.2.zip拷贝到其下

4、在$HADOOP_HOME/conf/core-site.xml里添加内容:


5、在$OOZIE_HOME/conf/oozie-site.xml里添加内容:

6、执行oozie-setup.sh:

bin/oozie-setup.sh -hadoop 2.2.0 /home/hadoop-2.2.0 -extjs/home/oozie-3.3.2/libext/ext-2.2.zip

执行成功后,会有如下提示:

7、执行“bin/oozied.sh run”启动Oozie

8、更改Oozie job的job.properties文件:

主要的更改是:将 jobtracker 地址和端口改为 'yarn.resourcemanager.address ' 项的值。

比如:

- 对于hadoop-1.x:jobTracker=JT_HOST:9001

- 对于hadoop-2.x:jobTracker=RM_HOST:18040

9、提交Oozie job

命令:

执行成功后,Oozie web console上的信息:

Yarn web console上的信息:


以上是主要步骤,当然安装配置过程中也碰到了各种问题,比如”NoClassDefFoundError“、”java.net.ConnectException“、”KerberosName$NoMatchingRule“、”Type mismatch in key from map“等。我们可以根据具体异常逐一解决即可。

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值