hive2.1.1安装部署

转载 2018年04月17日 10:49:09

Hive运行模式

与 Hadoop 类似,Hive 也有 3 种运行模式:
1. 内嵌模式
将元数据保存在本地内嵌的 Derby 数据库中,这是使用 Hive 最简单的方式。但是这种方式缺点也比较明显,因为一个内嵌的 Derby 数据库每次只能访问一个数据文件,这也就意味着它不支持多会话连接。
2. 本地模式
这种模式是将元数据保存在本地独立的数据库中(一般是 MySQL),这用就可以支持多会话和多用户连接了。
3. 远程模式
此模式应用于 Hive 客户端较多的情况。把 MySQL 数据库独立出来,将元数据保存在远端独立的 MySQL 服务中,避免了在每个客户端都安装 MySQL 服务从而造成冗余浪费的情况。

下载安装 Hive

http://hive.apache.org/downloads.html

tar -xzvf apache-hive-2.1.1-bin.tar.gz    ##解压

配置系统环境变量

设置 Hive环境变量  
# Hive environment  
export HIVE_HOME=/home/hadoop/cloud/apache-hive-2.1.1-bin  
export PATH=$HIVE_HOME/bin:$HIVE_HOME/conf:$PATH
使环境变量生效:  
source /etc/profile 

内嵌模式

  1. 修改 Hive 配置文件
    $HIVE_HOME/conf 对应的是 Hive 的配置文件路径,类似于之前学习的Hbase, 该路径下的 hive-site.xml 是 Hive 工程的配置文件。默认情况下,该文件并不存在,我们需要拷贝它的模版来实现:

    cp hive-default.xml.template hive-site.xml  

    hive-site.xml 的主要配置有:
    这里写图片描述
    这里写图片描述
    (1)hive.metastore.warehouse.dir:
    该参数指定了 Hive 的数据存储目录,默认位置在 HDFS 上面的 /user/hive/warehouse 路径下。
    (2)hive.exec.scratchdir:
    该参数指定了 Hive 的数据临时文件目录,默认位置为 HDFS 上面的 /tmp/hive 路径下。

    同时我们还要修改 Hive 目录下 /conf/hive-env.sh 文件(请根据自己的实际路径修改),该文件默认也不存在,同样是拷贝它的模版来修改:

    cp hive-env.sh.template  hive-env.sh

    set HADOOP_HOME to point to a specific hadoop install directory

    HADOOP_HOME=/home/hadoop/cloud/hadoop-2.7.3

    Hive Configuration Directory can be controlled by:

    export HIVE_CONF_DIR=/home/hadoop/cloud/apache-hive-2.1.1-bin/conf  

    Folder containing extra ibraries required for hive compilation/execution can be controlled by:

    export HIVE_AUX_JARS_PATH=/home/hadoop/cloud/apache-hive-2.1.1-bin/lib   
  2. 创建必要目录
    前面我们看到 hive-site.xml 文件中有两个重要的路径,切换到 hadoop 用户下查看 HDFS 是否有这些路径:

    hadoop fs -ls /  

    没有发现上面提到的路径,因此我们需要自己新建这些目录,并且给它们赋予用户写(W)权限。

    $HADOOP_HOME/bin/hadoop fs -mkdir -p /user/hive/warehouse  
    $HADOOP_HOME/bin/hadoop fs -mkdir -p /tmp/hive/  
    hadoop fs -chmod 777 /user/hive/warehouse  
    hadoop fs -chmod 777 /tmp/hive  

    检查是否新建成功 hadoop fs -ls / 以及 hadoop fs -ls /user/hive/ :

  3. 修改 io.tmpdir 路径
    同时,要修改 hive-site.xml 中所有包含 ${system:java.io.tmpdir} 字段的 value 即路径(vim下 / 表示搜索,后面跟你的关键词,比如搜索 hello,则为 /hello , 再回车即可),你可以自己新建一个目录来替换它,例如 /home/Hadoop/cloud/apache-hive-2.1.1-bin/iotmp

    mkdir /home/hadoop/cloud/apache-hive-2.1.1-bin/iotmp  
    chmod 777 /home/hadoop/cloud/apache-hive-2.1.1-bin/iotmp  
    把hive-site.xml 中所有包含 ${system:Java.io.tmpdir}替换成/home/hadoop/cloud/apache-hive-2.1.1-bin/iotmp 

    (注意是将这个value值替换,而不单单是这一个变量)

  4. 运行 Hive

    ./bin/hive 

    报错:
    这里写图片描述
    解决办法:

    ./bin/schematool -initSchema -dbType derby

    依然报错:
    这里写图片描述
    解决办法:
    删除/home/hadoop/cloud/apache-hive-2.1.1-bin目录下 rm -rf metastore_db/ 在初始化:./bin/schematool -initSchema -dbType derby
    重新运行

  5. 关联Mysql:
    Hive本身自带一个数据库,但是有弊端,hive本身数据库,每次只允许一个用户登录,所以将数据库启用mysql:
    Centos7安装Mysql
    编辑hive-site.xml,将数据库连接的部分改为mysql:

    <property>  
            <name>javax.jdo.option.ConnectionURL</name>  
            <value>jdbc:mysql://192.168.169.134:3306/hive?createDatabaseIfNotExist=true</value>  
        </property>  
        <property>  
            <name>javax.jdo.option.ConnectionDriverName</name>  
            <value>com.mysql.jdbc.Driver</value>  
        </property>  
        <property>  
            <name>javax.jdo.option.ConnectionUserName</name>  
            <value>root</value>  
        </property>  
        <property>  
            <name>javax.jdo.option.ConnectionPassword</name>  
            <value>123456</value>  
        </property>  
        <property>   

    报错:Caused by: MetaException(message:Version information not found in metastore. )

    做如下修改:

    <property>    
       <name>hive.metastore.schema.verification</name>    
       <value>false</value> //此处将true改为false    
        <description>    
        Enforce metastore schema version consistency.    
        True: Verify that version information stored in metastore matches with one from Hive jars.  Also disable automatic    
              schema migration attempt. Users are required to manully migrate schema after Hive upgrade which ensures    
              proper metastore schema migration. (Default)    
        False: Warn if the version information stored in metastore doesn't match with one from in Hive jars.    
        </description>    
     </property>   

    然后将mysql的jar包(如mysql-connector-Java-5.1.15-bin.jar)拷贝到$HIVE_HOME/lib下。
    初始化数据库:

    bin/schematool -initSchema -dbType mysql  

    启动:

    bin/hive 

    启动后mysql 多了hive 数据库:
    这里写图片描述

测试

  1. 创建数据库

    create database db_hive_test;

    这里写图片描述

  2. 创建测试表

    use db_hive_test;
    
    create table student(id int,name string) row format delimited fields terminated by '\t';

    这里写图片描述
    这里写图片描述

  3. 加载数据到表中
    新建student.txt 文件写入数据(id,name 按tab键分隔)
    vi student.txt

    1001    zhangsan  
    1002    lisi  
    1003    wangwu  
    1004    zhaoli 
    load data local inpath '/home/hadoop/student.txt' into table  db_hive_test.student

    这里写图片描述

  4. 查询表信息

    select * from student;
  5. 查看表的详细信息

    desc formatted student;
  6. 通过ui页面查看创建的数据位置
    http://192.168.169.132:50070/explorer.html#/user/hive/warehouse/db_hive_test.db
    这里写图片描述

  7. 通过Mysql查看创建的表
    这里写图片描述

  8. 查看hive的函数

    show functions;
    
    查看函数详细信息 
    
    desc function sum; 
    desc function extended

    本文转载自博客园文章:hive2.1.1安装部署

hive2.1.1 部署安装

hive 安装教程 版本 2.1.1,本教程以mysql为元数据存储一、下载Hive下载地址:https://mirrors.tuna.tsinghua.edu.cn/apache/hive/二、my...
  • u013310025
  • u013310025
  • 2017-04-20 22:57:50
  • 6204

Hive2.1.1的安装

1.Hive简介 2.Hive的系统架构 3.安装Hive 4.安装MySQL 5.MySQL的驱动包放置到$HIVE_HOME/lib目录下 6.修改Hive的配置文件 7.启动Hive 8.查...
  • sl1992
  • sl1992
  • 2016-12-12 21:52:37
  • 4014

Apache Hive2.1.1安装部署

记录Hive2.1.1版本在CentOS7下的安装部署,及个人遇到的一些坑,一些解决办法。...
  • u012842205
  • u012842205
  • 2017-05-12 18:21:07
  • 2030

Hive2.1.1安装和配置

  • 2017年10月17日 13:55
  • 810KB
  • 下载

centos6\7下hive1.2.1安装部署

前置条件:正确安装hadoop、MySQL、jdk. 1、配置MySQL:在MySQL创建一个用户提供给hive使用 $ mysql -uroot -proot mysql> create user ...
  • u014453536
  • u014453536
  • 2016-08-04 11:48:43
  • 666

hive 2.0 安装配置

1. Hive的安装 系统环境 装好hadoop的环境后,我们可以把Hive装在namenode机器上(c1)。 hadoop的环境,请参考Hadoop环境搭建 下载: apache-...
  • ramobzheng
  • ramobzheng
  • 2016-04-26 17:22:55
  • 1867

Hive2.1.0的 Web Interface配置

首先需要从官网下载与当前Hive版本相对应的src文件,并进入到hive/hwi目录下,将web打包成war格式的压缩包,使用命令:jar cfM hive-hwi-2.1.0.war -C web ...
  • cuihaolong
  • cuihaolong
  • 2016-07-29 14:59:47
  • 2047

hive2.1.1安装

hive2.1.1安装
  • bingo_liu
  • bingo_liu
  • 2017-09-06 15:17:36
  • 186

Hive1.2本地模式安装教程--hive学习

hive安装方式有内嵌方式、本地方式和远程方式。此次搭建hive的目的主要是项目需要学习hive,因此选用较为简单方便的本地模式。这个需要借助mysql,下面进入具体步骤。 一、环境搭建 1.h...
  • u010824591
  • u010824591
  • 2016-05-04 21:34:12
  • 1540
收藏助手
不良信息举报
您举报文章:hive2.1.1安装部署
举报原因:
原因补充:

(最多只允许输入30个字)