oozie4.3.0安装过程(支持python spark action)

本文介绍了在oozie 4.2.0不支持workflow工作流目录lib子目录下的jar包自动加载的情况下,如何安装oozie 4.3.0并进行特定修改以支持python文件的spark action。详细步骤包括使用root账户安装,通过maven编译打包,将oozie解压到指定目录,拷贝必要依赖到libext目录,设置环境变量,修改配置文件等。
摘要由CSDN通过智能技术生成

oozie4.3.0安装过程


因本人工作环境需要用到oozie的spark action,oozie4.2.0不支持workflow工作流目录lib子目录下的jar包自动加载,故采用oozie-master的源码(版本为oozie 4.3.0-SNAPSHOT),
同时为使oozie spark action支持python文件,本人修改了若干源码,将在后面加以说明


1、安装环境

centos: 6.6
jdk:    1.8.0_25
maven:  3.3.9
hadoop: 2.6.0
spark:  1.6.0

为安装方便,使用root账户

2、打包
2.1)maven安装和配置
下载maven3.3.9

mkdir ~/download   
cd ~/download
wget http://apache.opencas.org/maven/maven-3/3.3.9/binaries/apache-maven-3.3.9-bin.tar.gz
tar -zxvf apache-maven-3.3.9-bin.tar.gz -C /opt/
mv /opt/apache-maven-3.3.9 /opt/mavan

将maven的bin目录加入path变量
在/etc/profile增加两行,
export MAVEN_HOME=/opt/maven
export PATH=$PATH:$MAVEN_HOME/bin

保存退出后执行命令:
source /etc/profile


修改maven setting.xml, 使用开源中国的镜像,加快速度(该镜像不是很全,若发现某些库被屏蔽了建议修改mirrorOf项,这里不用关心)

<mirror>
      <id>nexus-osc</id>
      <name>OSChina Central</name>                                                                             
      <url>http://maven.oschina.net/content/groups/public/</url>
      <mirrorOf>*</mirrorOf>
</mirror>


2.2)下载安装pig
下载pig

cd ~/download
wget http://archive.apache.org/dist/pig/pig-0.13.0/pig-0.13.0.tar.gz
tar -zxvf pig-0.13.0.tar.gz -C /opt/
mv /opt/pig-0.13.0 /opt/pig

将pig的bin目录加入path变量
在/etc/profile增加两行,

export PIG_HOME=/opt/pig
export PATH=$PATH:$PIG_HOME/bin


2.3)下载oozie的master(为4.3.0-SNAPSHOT源码,解压)

cd ~/download
git https://github.com/apache/oozie.git
cd oozie

2.4)修改主目录中的pom.xml,有以下位置要改:

       <targetJavaVersion>1.8</targetJavaVersion>
       <hadoop.version>2.6.0</hadoop.version>
       <hadoop.majorversion>2</hadoop.majorversion>
       <pig.version>0.13.0</pig.version>
       <maven.javadoc.opts>-Xdoclint:none</maven.javadoc.opts>
       <spark.version>1.6.0</sp
  • 2
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值