hive on tez集成


一、

1.下载apache-tez-0.5.4-src.tar.gz

2.下载apache-maven-3.2.5-bin.tar

3.下载protobuf-2.5.0.tar.gz

二、安装

1.安装mvn,省略

2.安装protobuf:

 a. tar -zxf protobuf-2.5.0.tar.gz命令解压后得到是protobuf-2.5.0的源码,

 b. cd protobuf-2.5.0

 c. 执行 ./configure --prefix=/home/master/protobuf/  

 d. 执行 make && make install

 e. 在/etc/profile添加 export PATH=/home/master/protobuf/bin

 d. 最后输入 protoc --version命令,如显示libprotoc 2.5.0则安装成功

三、编译tez

mvn clean package -DskipTests=true -Dmaven.javadoc.skip=true

四、与hive集成

1. hadoop fs -mkdir /apps/tez-0.5.4

2.添加/etc/profile文件:

export TEZ_HOME=/home/master/tez-0.4.1/tez-dist/target/tez-0.4.1-incubating-full/tez-0.4.1-incubating-full
export TEZ_CONF_DIR=$TEZ_HOME/conf
export TEZ_JARs=$TEZ_HOME

export HADOOP_CLASSPATH=${TEZ_CONF_DIR}:${TEZ_JARS}/*:${TEZ_JARS}/lib/*


3.在/home/master/tez-0.4.1/tez-dist/target/tez-0.4.1-incubating-full/tez-0.4.1-incubating-full/conf

vim tez-site.xml:


<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
   <property>
        <name>tez.lib.uris</name>
        <value>${fs.defaultFS}/apps/tez-0.4.1,${fs.defaultFS}/apps/tez-0.4.1/lib/</value>
   </property>
</configuration>

4.

将tez下的jar和tez下的lib下的jar包复制到hive的$HIVE_HOME/lib目录下即可 
配置过程中,我的hive和hadoop的master在同一个节点上,以hadoop用户启动运行hive,tez/mr一切顺利,

hive (default)>set hive.execution.engine=tez;



  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值