Hive:大数据的SQL仓库详解

一、Hive简介

Apache Hive是一个建立在Hadoop之上的数据仓库基础设施,它提供了类SQL查询语言HiveQL(HQL)来查询和管理存储在Hadoop集群中的大数据。Hive允许不熟悉Java MapReduce程序员也能编写大数据的复杂查询,并且这些查询可以转换为在Hadoop上执行的MapReduce任务。Hive可以处理结构化和非结构化的数据,并且支持各种文件格式,如TextFile、SequenceFile、Parquet等。

二、Hive环境配置

Hive环境配置主要包括安装Hive、配置Hive环境变量、设置Hive的元数据存储(如MySQL)等。以下是一个简化的Hive环境配置步骤:

  1. 下载并解压Hive安装包。
  2. 配置Hive环境变量,如HIVE_HOMEPATH
  3. 配置Hive的hive-site.xml文件,指定元数据存储位置等。

三、Hive产生背景与架构设计

Hive的产生背景是为了解决Hadoop生态系统中MapReduce编程的复杂性,提供一个更简单的数据查询方式。Hive的架构设计采用了客户端-服务器模式,包括用户接口层、元数据存储层、执行引擎层和Hadoop数据存储层。

四、Hive存储模型与数据类型

Hive支持行式存储和列式存储(如Parquet),并提供了丰富的数据类型,包括基本数据类型(如INT、STRING)、复杂数据类型(如ARRAY、MAP、STRUCT)等。

五、Hive表库操作

Hive表库操作主要包括创建数据库、切换数据库、删除数据库、创建表、删除表等。以下是一个创建表的示例:

CREATE TABLE IF NOT EXISTS employees (
id INT,
name STRING,
salary FLOAT,
subordinates ARRAY<STRING>,
address STRUCT<street:STRING, city:STRING, state:STRING, zip:INT>
)
ROW FORMAT DELIMITED
FIELDS TERMINATED BY '\t'
STORED AS TEXTFILE;

六、Hive内部表与外部表

Hive内部表(管理表)由Hive完全管理,数据存储在Hive的默认数据仓库目录下。删除内部表时,Hive会同时删除表对应的数据。而外部表的数据存储在用户指定的位置,Hive仅维护元数据。以下是一个创建外部表的示例&#x

1.上传tar包 2.解压 tar -zxvf hive-1.2.1.tar.gz 3.安装mysql数据库 推荐yum 在线安装 4.配置hive (a)配置HIVE_HOME环境变量 vi conf/hive-env.sh 配置其中的$hadoop_home (b)配置元数据库信息 vi hive-site.xml 添加如下内容: javax.jdo.option.ConnectionURL jdbc:mysql://localhost:3306/hive?createDatabaseIfNotExist=true JDBC connect string for a JDBC metastore javax.jdo.option.ConnectionDriverName com.mysql.jdbc.Driver Driver class name for a JDBC metastore javax.jdo.option.ConnectionUserName root username to use against metastore database javax.jdo.option.ConnectionPassword hadoop password to use against metastore database 5.安装hive和mysq完成后,将mysql的连接jar包拷贝到$HIVE_HOME/lib目录下 如果出现没有权限的问题,在mysql授权(在安装mysql的机器上执行) mysql -uroot -p #(执行下面的语句 *.*:所有库下的所有表 %:任何IP地址或主机都可以连接) GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'root' WITH GRANT OPTION; FLUSH PRIVILEGES; 6. Jline包版本不一致的问题,需要拷贝hive的lib目录中jline.2.12.jar的jar包替换掉hadoop中的 /home/hadoop/app/hadoop-2.6.4/share/hadoop/yarn/lib/jline-0.9.94.jar 启动hive bin/hive ---------------------------------------------------------------------------------------------------- Hive几种使用方式: 1.Hive交互shell bin/hive 2.Hive JDBC服务(参考java jdbc连接mysql) 3.hive启动为一个服务器,来对外提供服务 bin/hiveserver2 nohup bin/hiveserver2 1>/var/log/hiveserver.log 2>/var/log/hiveserver.err & 启动成功后,可以在别的节点上用beeline去连接 bin/beeline -u jdbc:hive2://mini1:10000 -n root 或者 bin/beeline ! connect jdbc:hive2://mini1:10000 4.Hive命令 hive -e ‘sql’ bin/hive -e 'select * from t_test'
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值