hive基础知识(二)

本文介绍了Hive在离线数据处理中的作用,强调其在大数据分析中的优势,如类SQL语法、元数据管理和易扩展性。内容涵盖Hive的操作,包括查看和创建数据库、显示表、设置数据库名显示、建表、加载数据、查询数据以及可视化工具Hue的使用。
摘要由CSDN通过智能技术生成

 

hive使用场景:

离线数据

处理大数据

延迟高

数据的离线处理;比如:日志分析,海量结构化数据离线分析…

Hive的执行延迟比较高,因此hive常用于数据分析的,对实时性要求不高的场合;

Hive优势在于处理大数据,对于小数据没有优势,因为Hive的执行延迟比较高。

hive优点:

操作接口采用类SQL语法,提供快速开发的能力(简单、容易上手);

避免了去写MapReduce,减少开发人员的学习成本;

统一的元数据管理,可与impala/spark等共享元数据;

易扩展(HDFS+MapReduce:可以扩展集群规模;支持自定义函数);

hive具体操作:

1、查看数据库:

show databases;

2、创建数据库:

create database if not exists a;

3、查看数据库信息:

describe databases a;

hive> describe database a;

OK

a hdfs://host-10-10-10-17:6200/user/hive/warehouse/a.dbhadoopUSER

Time taken: 0.034 seconds, Fetched: 1 row(s)

hive> desc database a;

-------同上面一样

 

4、使用数据库、查看表

 

hive> use a;

OK

Time taken: 0.014 seconds

hive> show tables;

OK

Time taken: 0.058 seconds

5、设置数据库名的显示

hive> set hive.cli.print.current.db=true;

$ bin/hive --hiveconf hive.cli.print.current.db=true;

6、建表

hive (a)> create table if not exists student(id int,name string) row format delimited fields terminated by '\t' stored as textfile;

OK

Time taken: 0.131 seconds

7、加载数据

cd /home/hadoop/

ls

cd datas

pwd 打印当前目录

rz 上传文件

[hadoop@host-10-10-10-186 datas]$ rz

hive (a)> insert into table student(id,name) values(100,'zhang');

确定文件的位置:

/home/hadoop/datas/student.tsv

hive (a)> load data local inpath '/home/hadoop/datas/student.tsv' into table student;

hive (a)> select * from student;

8、

设置显示表头:

hive (a)> set hive.cli.print.header=true;

hive (a)> select * from student;

不显示表头:

hive (a)> set hive.cli.print.header=false;

9、

查看文件具体信息

$ cat student.tsv

删除:

rm -rf student.tsv

操作流程:

首先建表:

hive (a)>create table if not exists student(id int,name string) row format delimited fields terminated by '\t' stored as textfile;

$ cd /home/hadoop/

$ ls

$ cd datas

$ ls

$ cat student.tsv

(在本地数据上传:$ rz :已上传,不用操作)

$ pwd

显示的结果:

eg:不是绝对的,看你自己的目录就可以了

/home/hadoop/datas

hive (a)>load data local inpath '/usr/local/apache-hive-1.2.1-bin/student.tsv' into table student;

hive (a)> select * from student;

hive (a)> set hive.cli.print.header=true;

可视化工具:hue

### 回答1: Hive是一个基于Hadoop数据仓库工具,它提供了一种类似SQL的查询语言,用于将结构化数据存储在Hadoop集群上,并进行查询和分析。下面是一些关于Hive基础知识的选择题: 1. Hive的主要特点是什么? a) 提供类似SQL的查询语言 b) 可以在Hadoop集群上进行数据存储和分析 c) 可以处理结构化和半结构化数据 d) 所有选项都正确 答案:d) 所有选项都正确 2. Hive数据存储在哪里? a) HBase b) Hadoop Distributed File System (HDFS) c) Cassandra d) MySQL 答案:b) Hadoop Distributed File System (HDFS) 3. Hive中的表可以与以下哪种文件格式关联? a) CSV b) JSON c) Parquet d) 所有选项都正确 答案:d) 所有选项都正确 4. Hive使用什么来对数据进行分区和排序? a) HDFS b) Tez c) MapReduce d) Apache Spark 答案:c) MapReduce 5. Hive中的数据查询和分析通过什么来实现? a) Hive Query Language (HQL) b) Structured Query Language (SQL) c) Apache Hive d) Apache Hadoop 答案:a) Hive Query Language (HQL) 总之,Hive是一个基于Hadoop数据仓库工具,具有类似SQL的查询语言,可以在Hadoop集群上存储和分析结构化和半结构化数据。它使用HDFS来存储数据,可以与多种文件格式关联,并使用MapReduce来进行数据分区和排序。数据查询和分析通过Hive Query Language (HQL)来实现。 ### 回答2: Hive是一款基于Hadoop数据仓库工具,它提供了方便的数据查询和分析的功能。接下来我将回答一些关于Hive基础知识的选择题。 1. Hive中的表是如何定义的? 答案:C. 使用HiveQL语句创建表。 2. 在Hive中,数据是如何存储的? 答案:B. 在Hadoop的HDFS文件系统中。 3. Hive中的分区是用来做什么的? 答案:A. 对数据进行逻辑上的划分,便于查询优化和数据管理。 4. 在Hive中,可以使用哪种语言进行数据查询? 答案:D. HiveQL。 5. 在Hive中,用来处理复杂逻辑和数据运算的是什么? 答案:B. Hive的UDF(用户定义函数)和UDAF(用户定义聚合函数)。 6. Hive数据存储格式有哪些? 答案:A. 文本文件(TextFile)、序列文件(SequenceFile)和Parquet等。 7. Hive表中的数据可以通过什么方式进行加载? 答案:C. 使用Hive的LOAD DATA语句。 8. 在Hive中,用来创建管理表结构的是什么? 答案:B. Hive的元数据存储。 9. Hive的优势是什么? 答案:C. 简化了对Hadoop数据的查询和分析。 10. 使用Hive时,可以通过什么方式进行数据的导入和导出? 答案:D. 使用Hive的导入和导出命令。 以上是关于Hive基础知识的一些选择题的答案。Hive是一个功能强大且易于使用的工具,可以帮助用户更好地处理和分析大数据。掌握Hive基础知识对于进行数据仓库的建设和数据分析工作非常重要。 ### 回答3: Hive是一个开源的数据仓库基础架构,运行在Hadoop集群上。以下是关于Hive基础知识选择题的回答: 1. Hive中的数据存储在哪里? 答:Hive中的数据存储在Hadoop分布式文件系统(HDFS)中。 2. Hive中的数据是如何组织的? 答:Hive中的数据是以表(Tables)的形式进行组织的。 3. Hive中的表的结构是如何定义的? 答:Hive中的表的结构是通过DDL语句来定义的,包括表的名称、列名称、数据类型等信息。 4. Hive中的查询语言是什么? 答:Hive中的查询语言类似于SQL,称为HiveQL或HQL。 5. Hive中的查询语句是如何转换为MapReduce作业的? 答:Hive将查询语句转换为逻辑查询计划,然后将逻辑查询计划转换为物理查询计划,最后将物理查询计划转换为MapReduce作业。 6. Hive中的分区表是什么? 答:Hive中的分区表是按照一个或多个列的值分成不同的目录,并且每个目录下存储相应分区的数据。 7. Hive中的桶是什么? 答:Hive中的桶是将数据分成固定数量的文件的一种方式,目的是提高查询性能。 8. Hive中的内部表和外部表有什么区别? 答:内部表的数据和元数据都由Hive管理,删除内部表时会删除表的数据;而外部表的数据和元数据存储在外部的文件系统中,删除外部表时只会删除元数据。 9. Hive中的UDF是什么? 答:UDF全称为用户定义函数(User-Defined Functions),是由用户自定义的用于特定数据处理操作的函数。 10. Hive中的压缩是如何实现的? 答:Hive中的压缩是通过执行MapReduce作业时将数据进行压缩,以减少数据的存储空间和提高查询性能。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值