hive on tez安装

版本:hadoop2.7.2+hive1.2.1+tez0.8.4

1.下载tez src

解压,修改pom.xml,将hadoop.version改为2.7.2 ,最好用非root用户编译,有可能有些资源下载不下来,需要翻墙。。。orz。。。
mvn clean package -DskipTests=true -Dmaven.javadoc.skip=true

2.编译成功后,在tez-dist/target目录下,能够发现如下文件

archive-tmp  maven-archiver  tez-0.8.4  tez-0.8.4-minimal  tez-0.8.4-minimal.tar.gz  tez-0.8.4.tar.gz  tez-dist-0.8.4-tests.jar
3.将tez-0.8.4-minimal上传到hdfs上,本例中上传到/user/hadoop/tez目录下

4.配置hive-tez.xml文件
<?xml version="1.0"?>
<configuration>
  <property>
        <name>tez.lib.uris</name>
         <value>hdfs://sdf-cluster/user/hadoop/tez/tez-0.8.4-minimal,hdfs://sdf-cluster/user/hadoop/tez/tez-0.8.4-minimal/lib</value>
    </property>
 <property>
         <name>tez.lib.uris.classpath</name>           <value>$HADOOP_CONF_DIR,$HADOOP_COMMON_HOME/share/hadoop/common/*,$HADOOP_COMMON_HOME/share/hadoop/common/lib/*,$HADOOP_HDFS_HOME/share/hadoop/hdfs/*,$HADOOP_HDFS_HOME/share/hadoop/hdfs/lib/*,$HADOOP_MAPRED_HOME/share/hadoop/mapreduce/*,$HADOOP_MAPRED_HOME/share/hadoop/mapreduce/lib/*,$HADOOP_YARN_HOME/share/hadoop/yarn/*,$HADOOP_YARN_HOME/share/hadoop/yarn/lib/*</value>
 </property>


</configuration>





5.在客户端安装tez-0.8.4-minimal,并且在conf目录下建立tez-site.xml并正确配置

6.在hive的客户端配置环境变量    (可以配置到/etc/profile位置,也可以配置到hive-env.sh中)

export TEZ_HOME=/usr/local/tez
export TEZ_CONF_DIR=/usr/local/tez/conf
export TEZ_JARS=/usr/local/tez/
export HADOOP_CLASSPATH=${TEZ_CONF_DIR}:${TEZ_JARS}/*:${TEZ_JARS}/lib/*


7.在hive-site.xml中配置参数
<property>
          <name>hive.user.install.directory</name>
           <value>/tmp</value>
 </property>

8.hive启动后执行

set hive.execution.engine=tez;

即可运行hive on tez任务。




  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 5
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值