Hive基础知识大全

最新推荐文章于 2023-04-13 14:50:31 发布

九月木樨

最新推荐文章于 2023-04-13 14:50:31 发布

阅读量440

点赞数

分类专栏： hive 大数据全家桶

本文链接：https://blog.csdn.net/qq_45538338/article/details/106482935

版权

本文详细介绍了Hive的基础知识，包括Hive的基本概念、架构、与Hadoop的关系、与传统数据库的对比，以及数据存储方式。重点讲解了Hive的安装部署，包括derby和MySQL两种元数据存储方式，并详细阐述了Hive的使用方式，包括交互式shell、JDBC服务和命令行。此外，文章还深入探讨了Hive的基本操作，如创建数据库和表、数据加载、查询语法，以及Hive的优化技巧，如并行执行、严格模式、JVM重用和推测执行。

摘要由CSDN通过智能技术生成

一、Hive基本概念

1.1、Hive简介

什么是Hive
Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供类SQL查询功能（HQL）。
其本质是将SQL转换为MapReduce的任务进行运算，底层由HDFS来提供数据的存储，hive可以理解为一个将SQL转换为MapReduce的任务的工具。

为什么使用Hive

直接使用hadoop所面临的问题：
人员学习成本太高
项目周期要求太短
MapReduce实现复杂查询逻辑开发难度太大
为什么要使用Hive：
操作接口采用类SQL语法，提供快速开发的能力。
避免了去写MapReduce，减少开发人员的学习成本。
功能扩展很方便。

Hive的特点

可扩展
Hive可以自由的扩展集群的规模，一般情况下不需要重启服务。
延展性
Hive支持用户自定义函数，用户可以根据自己的需求来实现自己的函数。
容错
良好的容错性，节点出现问题SQL仍可完成执行。

1.2、 Hive架构

架构图
在这里插入图片描述
基本组成
用户接口： 包括CLI、JDBC/ODBC、WebGUI。其中，CLI(command line interface)为shell命令行；JDBC/ODBC是Hive的JAVA实现，与传统数据库JDBC类似；WebGUI是通过浏览器访问Hive。
元数据存储： 通常是存储在关系数据库如mysql/derby中。Hive 将元数据存储在数据库中。Hive 中的元数据包括表的名字，表的列和分区及其属性，表的属性（是否为外部表等），表的数据所在目录等。
解释器、编译器、优化器、执行器： 完成HQL 查询语句从词法分析、语法分析、编译、优化以及查询计划的生成。生成的查询计划存储在HDFS 中，并在随后有MapReduce 调用执行。

1.3、Hive与Hadoop的关系

Hive利用HDFS存储数据，利用MapReduce查询分析数据
在这里插入图片描述

1.4、Hive与传统数据库对比

hive用于海量数据的离线数据分析

·	hive	RDBMS
查询语言	HQL	SQL
数据存储	HDFS	Raw Device or Local FS
执行	MapReduce	Excutor
执行延迟	高	低
处理数据规模	大	小
索引	0.8版本后加入位图索引	有复杂的索引

数据格式。Hive中没有定义专门的数据格式，数据格式可以由用户指定，用户定义数据格式需要指定三个属性：列分隔符（通常为空格、”\t”、”\x001″）、行分隔符（”\n”）以及读取文件数据的方法（Hive 中默认有三个文件格式 TextFile，SequenceFile 以及 RCFile）。
Hive在加载数据的过程中，不需要从用户数据格式到 Hive 定义的数据格式的转换。
Hive 在加载的过程中不会对数据本身进行任何修改，甚至不会对数据进行扫描。而只是将数据内容复制或者移动到相应的 HDFS 目录中。
Hive 中不支持对数据的改写和添加，所有的数据都是在加载的时候中确定好的。
Hive 在加载数据的过程中不会对数据中的某些 Key 建立索引。Hive 要访问数据中满足条件的特定值时，需要暴力扫描整个数据，因此访问延迟较高。由于数据的访问延迟较高，决定了Hive 不适合在线数据查询。
Hive 是建立在 Hadoop 之上的，因此 Hive 的可扩展性是和 Hadoop 的可扩展性是一致的。

总结： hive具有sql数据库的外表，但应用场景完全不同，hive只适合用来做批量数据统计分析

1.5、Hive的数据存储

1、Hive中所有的数据都存储在 HDFS 中，没有专门的数据存储格式（可支持Text，SequenceFile，ParquetFile，ORC格式RCFILE等）

2、只需要在创建表的时候告诉 Hive 数据中的列分隔符和行分隔符，Hive 就可以解析数据。

3、Hive 中包含以下数据模型：DB、Table，External Table，Partition，Bucket。

db：在hdfs中表现为${hive.metastore.warehouse.dir}目录下一个文件夹
table：在hdfs中表现所属db目录下一个文件夹
external table：与table类似，不过其数据存放位置可以在任意指定路径
partition：在hdfs中表现为table目录下的子目录
bucket：在hdfs中表现为同一个表目录下根据hash散列之后的多个文件

1.6、HIVE的安装部署

我们在此处选择第三台机器作为我们hive的安装机器

1.6.1 安装

derby版hive直接使用：

1、解压hive

cd /export/softwares
tar -zxvf hive-1.1.0-cdh5.14.0.tar.gz -C ../servers/

在这里插入图片描述
1、直接启动 bin/hive

cd ../servers/
cd hive-1.1.0-cdh5.14.0/
bin/hive
hive> create database mytest;

在这里插入图片描述

缺点： 多个地方安装hive后，每一个hive是拥有一套自己的元数据，大家的库、表就不统一；

使用mysql共享hive元数据

mysql数据库的安装（使用rpm包的方式进行安装，不推荐）

第一步：查看系统自带的mysql的rpm包

rpm -qa | grep mysql
rpm -e mysql-libs-5.1.73-8.el6_8.x86_64 --nodeps

在这里插入图片描述
第二步：安装mysql的rpm包

rpm   -ivh  *.rpm

在这里插入图片描述

第三步：启动mysql的服务

service  mysqld  start

第四步：查看mysql初始化密码

more /root/.mysql_secret

在这里插入图片描述

第五步：使用随记密码登录mysql并更新密码
mysql -uroot –p
SET PASSWORD = PASSWORD(‘123456’);

第六步：开启mysql远程连接

grant all privileges on *.* to 'root'@'%' identified by '123456' with grant option;

flush privileges;

在这里插入图片描述
第七步：设置mysql的开机启动

chkconfig --add mysqld
chkconfig mysqld on

mysql数据库的安装（使用yum源进行安装，强烈推荐）

第一步：在线安装mysql相关的软件包

yum  install  mysql  mysql-server  mysql-devel

第二步：启动mysql的服务

/etc/init.d/mysqld start
chkconfig mysqld on

第三步：进入mysql的客户端然后进行授权

use mysql;

配置远程连接

 grant all privileges on *.* to 'root'@'%' identified by '123456' with grant option;

 flush privileges;

第四步设置root用户链接mysql的密码

update user set password=password('123456') where user='root';

flush privileges;

修改hive的配置文件

修改hive-env.sh
添加我们的hadoop的环境变量：

cd  /export/servers/hive-1.1.0-cdh5.14.0/conf
cp hive-env.sh.template hive-env.sh
vim hive-env.sh

HADOOP_HOME=/export/servers/hadoop-2.6.0-cdh5.14.0
# Hive Configuration Directory can be controlled by:

export HIVE_CONF_DIR=/export/servers/hive-1.1.0-cdh5.14.0/conf

在这里插入图片描述

修改hive-site.xml

cd /export/servers/hive-1.1.0-cdh5.14.0/conf
vim hive-site.xml

<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
        <property>
                <name>javax.jdo.option.ConnectionURL</name>
                <value>jdbc:mysql://node03.hadoop.com:3306/hive?createDatabaseIfNotExist=true</value>
        </property>

        <property>
                <name>javax.jdo.option.ConnectionDriverName</name>
                <value>com.mysql.jdbc.Driver</value>
        </property>
        <property>
                <name>javax.jdo.option.ConnectionUserName</name>
                <value>root</value>
        </property>
        <property>
                <name>javax.jdo.option.ConnectionPassword</name>
                <value>123456</value>
        </property>
        <property>
                <name>hive.cli.print.current.db</name>
                <value>true</value>
        </property>
        <property>
                <name>hive.cli.print.header</name>
                <value>true</value>
        </property>
        <property>
                <name>hive.server2.thrift.bind.host</name>
                <value>node03.hadoop.com</value>
        </property>
<!--
        <property>
                <name>hive.metastore.uris</name>
                <value>thrift://node03.hadoop.com:9083</value>
        </property>
-->
</configuration>

上传mysql的lib驱动包
将mysql的lib驱动包上传到hive的lib目录下

cd /export/servers/hive-1.1.0-cdh5.14.0/lib

将mysql-connector-java-5.1.38.jar 上传到这个目录下

1.6.2 使用方式

第一种交互方式：Hive交互shell

cd /export/servers/hive-1.1.0-cdh5.14.0
bin/hive

查看所有的数据库

hive (default)> show databases;

创建一个数据库

hive (default)> create database myhive;

使用该数据库并创建数据库表

hive (default)> use myhive;
hive (myhive)> create table test1(id int,name string);

以上命令操作完成之后，一定要确认mysql里面出来一个数据库hive

第二种交互方式：Hive JDBC服务

启动hiveserver2服务

前台启动

cd  /export/servers/hive-1.1.0-cdh5.14.0
bin/hive --service hiveserver2

在这里插入图片描述

后台启动

cd  /export/servers/hive-1.1.0-cdh5.14.0
nohup bin/hive --service hiveserver2  &

在这里插入图片描述

beeline连接hiveserver2

bin/beeline
beeline> !connect jdbc:hive2://node01.hadoop.com:10000

在这里插入图片描述

注意：如果使用beeline方式连接hiveserver2，一定要保证hive在mysql当中的元数据库已经创建成功，不然就会拒绝连接

第三种交互方式：Hive命令

使用 –e 参数来直接执行hql的语句

bin/hive -e "use myhive;select * from test1;"

使用 –f 参数通过指定文本文件来执行hql的语句

vim hive.sql

use myhive;select * from test1;

bin/hive -f hive.sql

更多参数参考以下
在这里插入图片描述

二、Hive基本操作

2.1、创建数据库与创建数据库表

创建数据库操作

创建数据库

create database if not exists myhive;
use  myhive;

在这里插入图片描述

说明：hive的表存放位置模式是由hive-site.xml当中的一个属性指定的

<name>hive.metastore.warehouse.dir</name>
<value>/user/hive/warehouse</value>

创建数据库并指定hdfs存储位置

create database myhive2 location '/myhive2';

修改数据库

可以使用alter database 命令来修改数据库的一些属性。但是数据库的元数据信息是不可更改的，包括数据库的名称以及数据库所在的位置

修改数据库的创建日期

alter  database  myhive2  set  dbproperties('createtime'='20880611');

查看数据库详细信息

查看数据库基本信息

desc  database  myhive2;

查看数据库更多详细信息

最低0.47元/天解锁文章

九月木樨

关注

0
点赞
踩
5

收藏

觉得还不错? 一键收藏
0
评论
Hive基础知识大全

一、Hive基本概念1.1、Hive简介什么是Hive Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供类SQL查询功能（HQL）。其本质是将SQL转换为MapReduce的任务进行运算，底层由HDFS来提供数据的存储，hive可以理解为一个将SQL转换为MapReduce的任务的工具。为什么使用Hive直接使用hadoop所面临的问题：人员学习成本太高项目周期要求太短MapReduce实现复杂查询逻辑开发难度太大为什么要使用Hive
复制链接

扫一扫

专栏目录