Hive学习(一)Hive的三种搭建方式

1、解压apache-hive-1.2.1-bin.tar.gz

tar -zxvf apache-hive-1.2.1-bin.tar.gz 

2、配置环境变量

export HIVE_HOME=/opt/apache-hive-1.2.1
export PATH=$HIVE_HOME/bin:$PATH

一、本地模式(derby)

元数据库derby与工具都是在本地,这种是最简单的存储方式,只需要配置hive-site.xml文件即可。
1、将hive-default.xml.template更名为hive-site.xml

mv hive-default.xml.template hive-site.xml

2、hive-site.xml的配置:

<?xml version="1.0"?>  
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>  
<configuration>  
<property>  
  <name>javax.jdo.option.ConnectionURL</name>  
  <value>jdbc:derby:;databaseName=metastore_db;create=true</value>  
</property>  
<property>  
  <name>javax.jdo.option.ConnectionDriverName</name>  
  <value>org.apache.derby.jdbc.EmbeddedDriver</value>  
</property>  
<property>  
  <name>hive.metastore.local</name>  
  <value>true</value>  
</property>  
<property>  
  <name>hive.metastore.warehouse.dir</name>  
  <value>/user/hive/warehouse</value>  
</property>   
</configuration>  

切换至/hive/bin目录下启动Hive

./hive

注意:
使用derby存储方式时,运行hive会在当前目录生成一个derby文件和一个metastore_db目录。这种存储方式的弊端是在同一个目录下同时只能有一个hive客户端能使用数据库。

二、基于Mysql的本地模式

这种存储方式需要在本地运行一个Mysql服务器。
1、将Mysql的jar包拷贝到$HIVE_HOME/lib目录下
2、安装Mysql
安装Mysql,并启动

yum install mysql-server -y

service mysqld start

由于首次安装,登录不需要密码

mysql -uroot

修改mysql权限:删除多余对权限造成影响的数据

GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '123' WITH GRANT OPTION;

刷新权限

flush privileges;

添加用户

CREATE USER 'hive'@'%' IDENTIFIED BY '123';

用户授权

grant all privileges on hive_meta.* to hive@"%" identified by '123';
flush privileges;

3、配置hive-site.xml文件

<?xml version="1.0"?>  
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>  
<configuration>  
<property>  
  <name>hive.metastore.warehouse.dir</name>  
  <value>/user/hive_remote/warehouse</value>  
</property>  
<property>  
  <name>hive.metastore.local</name>  
  <value>true</value>  
</property>  
<property>  
  <name>javax.jdo.option.ConnectionURL</name>  
  <value>jdbc:mysql://192.168.163.132/hive_meta?createDatabaseIfNotExist=true</value>  
</property>  
<property>  
  <name>javax.jdo.option.ConnectionDriverName</name>  
  <value>com.mysql.jdbc.Driver</value>  
</property>  
<property>  
  <name>javax.jdo.option.ConnectionUserName</name>  
  <value>hive</value>  
</property>  
<property>  
  <name>javax.jdo.option.ConnectionPassword</name>  
  <value>123</value>  
</property>  
</configuration>

切换至/hive/bin目录下启动Hive

./hive

注意:

  1. 虽然hive用户对hive_meta数据库是有操作权限的,但是这个数据库如果不存在,hive用户也是没有权限创建这个数据库,所以需要提前创建好hive_meta数据库。
  2. 需要修改用户名密码,新建的Mysql是没有密码的,需要用户自己更改。

三、基于Mysql的远程模式

需要将hive-site.xml配置文件拆为两部分,分别在服务端和客户端做如下配置。

服务端配置文件

<?xml version="1.0"?>  
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>  
<configuration>  
<property>  
  <name>hive.metastore.warehouse.dir</name>  
  <value>/user/hive_remote/warehouse</value>  
</property>  
<property>  
  <name>hive.metastore.local</name>  
  <value>true</value>  
</property>  
<property>  
  <name>javax.jdo.option.ConnectionURL</name>  
  <value>jdbc:mysql://localhost/hive_meta?createDatabaseIfNotExist=true</value>  
</property>  
<property>  
  <name>javax.jdo.option.ConnectionDriverName</name>  
  <value>com.mysql.jdbc.Driver</value>  
</property>  
<property>  
  <name>javax.jdo.option.ConnectionUserName</name>  
  <value>hive</value>  
</property>  
<property>  
  <name>javax.jdo.option.ConnectionPassword</name>  
  <value>password</value>  
</property>  
</configuration>  j

在客户端启动meta store service

hive --service metastore

客户端配置文件:

<?xml version="1.0"?>  
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>  
<configuration>  
<property>  
  <name>hive.metastore.warehouse.dir</name>  
  <value>/user/hive/warehouse</value>  
</property>     
<property>  
  <name>hive.metastore.local</name>  
  <value>false</value>  
</property>    
<property>  
  <name>hive.metastore.uris</name>  
  <value>thrift://192.168.163.128:9083</value>  
</property>  
</configuration>  

客户端启动的时候可能会遇见如下错误信息:

[ERROR] Terminal initialization failed; falling back to unsupported
java.lang.IncompatibleClassChangeError: Found class jline.Terminal, but interface was expected
at jline.TerminalFactory.create(TerminalFactory.java:101)

错误原因:Hadoop jline和Hive的jline版本不一致导致出错,需要将Hive中的jar包导入到Hadoop相应的位置。
Hadoop中jline jar包的位置

/hadoop/share/hadoop/yarn/lib

Hive中jline jar包的位置

/hive/lib
  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
搭建Hive需要一定的技术储备和资源。以下是一些基本的步骤: 1. 安装Java和Hadoop:Hive是基于Hadoop和Java的,因此您需要先安装Java和Hadoop。确保您的Hadoop集群已正确配置并且运行正常。 2. 下载和安装Hive:您可以从Hive官方网站或Apache官方网站下载Hive二进制文件,然后解压缩并安装Hive。 3. 配置Hive:在Hive安装目录下,您需要编辑`hive-site.xml`文件来配置Hive的参数,例如Hadoop的路径、JDBC驱动程序等。 4. 启动Hive服务:在命令行中运行`hive`命令来启动Hive服务。在启动Hive之前,您需要确保Hadoop集群已经启动。 5. 创建Hive表:您可以使用HiveQL语言创建表,类似于SQL语言。例如,创建一个名为`employee`的表,其中包含`id`、`name`和`age`三列,可以使用以下命令: ```sql CREATE TABLE employee ( id INT, name STRING, age INT ) ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' STORED AS TEXTFILE; ``` 6. 加载数据:您可以使用`LOAD DATA`命令将数据加载到Hive表中。例如,将一个名为`employee_data.txt`的文件加载到`employee`表中,可以使用以下命令: ```sql LOAD DATA LOCAL INPATH '/path/to/employee_data.txt' OVERWRITE INTO TABLE employee; ``` 7. 查询数据:使用HiveQL语言,您可以查询Hive表中的数据。例如,查询所有年龄大于30岁的员工,可以使用以下命令: ```sql SELECT * FROM employee WHERE age > 30; ``` 请注意,这只是一个简要的概述,搭建Hive需要更详细的步骤和技术细节。如果您没有足够的技术储备,可以寻求专业人士的帮助。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值