hive总结

Hive总结

1. hive定义
hive是Hadoop的一个数据仓库工具，可以将结构化的数据映射为一张表并提供了SQL查询功能。
本质：将hql转化为MapReduce程序
2. hive的优缺点
优点：操作接口采用类SQL语法，提供快速开发的能力（简答，容易上手）。
避免了去写MapReduce,减少开发人员的学习成本。
hive的执行延迟比较高，因此hive常用于数据分析，对实时性要求不高的场合
hive的优势在于处理大数据，对于处理小数据没有任何优势因为hive执行延迟比较高
hive支持用户自定义函数，用户可以根据自己的需求来实现在自己的函数。
缺点：（1）hive的HQL表达能力有限
迭代式算法无法表达，表达能力有限（复杂的逻辑算法不好封装）
数据挖掘方面不擅长，由于MapReduce数据处理流程的限制（比较慢，因为底层的缺点都还在），效率更高的算法却无法实现。
（2）hive的效率比较低
hive自动生成的MapReduce作业，通常情况下不够智能化
hive调优比较困难，粒度较粗
3. hive架构
客户端：
CLI（command-line interface）、JDBC/ODBC(jdbc访问hive)、WEBUI（浏览器访问hive）
元数据：Metastore
元数据包括：表名、表所属的数据库（默认是default）、表的拥有者、列/分区字段、表的类型（是否是外部表）、表的数据所在目录等；
默认存储在自带的derby数据库中，推荐使用MySQL存储Metastore
驱动器：
解析器（SQL Parser）：将SQL字符串转换成抽象语法树AST，这一步一般都用第三方工具库完成，比如antlr；对AST进行语法分析，比如表是否存在、字段是否存在、SQL语义是否有误。
编译器（Physical Plan）：将AST编译生成逻辑执行计划。
优化器（Query Optimizer）：对逻辑执行计划进行优化。
执行器（Execution）：把逻辑执行计划转换成可以运行的物理计划。对于Hive来说，就是MR/Spark
Hadoop：使用HDFS进行存储，使用MapReduce进行计算。
4.hive和数据库的区别：
查询语言：由于SQL被广泛的应用在数据仓库中，因此，专门针对Hive的特性设计了类SQL的查询语言HQL。熟悉SQL开发的开发者可以很方便的使用Hive进行开发。
数据存储位置：是建立在 Hadoop 之上的，所有 Hive 的数据都是存储在 HDFS 中的。而数据库则可以将数据保存在块设备或者本地文件系统中。
数据更新：由于Hive是针对数据仓库应用设计的，而数据仓库的内容是读多写少的。因此，Hive中不建议对数据的改写，所有的数据都是在加载的时候确定好的。而数据库中的数据通常是需 要经常进行修改的，因此可以使用 INSERT INTO … VALUES 添加数据，使用 UPDATE … SET修改数据。
执行：Hive中大多数查询的执行是通过 Hadoop 提供的 MapReduce 来实现的。而数据库通常有自己的执行引擎。
执行延迟：Hive 在查询数据的时候，由于没有索引，需要扫描整个表，因此延迟较高。另外一个导致 Hive 执行延迟高的因素是 MapReduce框架。由于MapReduce 本身具有较高的延迟， 因此在利用MapReduce 执行Hive查询时，也会有较高的延迟。相对的，数据库的执行延迟较低。当然，这个低是有条件的，即数据规模较小，当数据规模大到超过数据库的处理 能力的时候，Hive的并行计算显然能体现出优势。
可扩展性：由于Hive是建立在Hadoop之上的，因此Hive的可扩展性是和Hadoop的可扩展性是一致的（世界上最大的Hadoop 集群在 Yahoo!，2009年的规模在4000 台节点左右）。而数据库由于 ACID 语义的严格限制，扩展行非常有限。目前最先进的并行数据库 Oracle 在理论上的扩展能力也只有100台左右。
数据规模：由于Hive建立在集群上并可以利用MapReduce进行并行计算，因此可以支持很大规模的数据；对应的，数据库可以支持的数据规模较小。
5.hive元数据包括哪些，存在哪里
元数据包括：表名、表所属的数据库（默认是default）、表的拥有者、列/分区字段、表的类型（是否是外部表）、表的数据所在目录等；
默认存储在自带的derby数据库中，推荐使用MySQL存储Metastore
6.hive基本数据类型&&复杂数据类型
基本数据类型:TINYINT,SMALINT,INT,BIGINT,BOOLEAN,FLOAT,DOUBLE,STRING,TIMESTAMP,BINARY
复杂数据类型:STRUCT,MAP,ARRAY
7.内部表外部表区别
在删除表的时候，内部表的元数据和数据会被一起删除
而外部表只删除元数据，不删除数据
8.往表中添加数据的5种方式
装载，追加，覆盖，插入，保存到新建表中
9.往分区中添加数据的三种方式
装载，追加，覆盖
10.建表完整语句
CREATE [EXTERNAL] TABLE [IF NOT EXISTS] table_name
[(col_name data_type [COMMENT col_comment], …)]
[COMMENT table_comment]
[PARTITIONED BY (col_name data_type [COMMENT col_comment], …)]
[CLUSTERED BY (col_name, col_name, …)
[SORTED BY (col_name [ASC|DESC], …)] INTO num_buckets BUCKETS]
[ROW FORMAT row_format]
[STORED AS file_format]
[LOCATION hdfs_path]
[TBLPROPERTIES (property_name=property_value, …)]
[AS select_statement]
11.窗口函数的操作：
LEAD :返回当前行以下n行的指定列的列值
LAG： 返回当前行以上n行的指定列的列值
FIRST_VALUE:返回当前窗口指定列的第一个值
LAST_VALUE：返回当前窗口指定列的最后一个值

统计类函数：
	COUNT
		SUM
	MIN
	MAX
		AVG
		
排名类函数：
		RANK
	ROW_NUMBER
	DENSE_RANK
	CUME_DIST
	PERCENT_RANK
	NTILE(x):将数据集平均分到x个组里面，返回每条记录所在的组号
	窗口函数和分组的区别：
如果是分组操作，select后面只能跟分组后的字段,或者是聚合函数
如果是窗口函数，窗口函数在指定的窗口内，对每条记录都做一次计算
如果是分组操作，会有去重的效果，但是partition不会去重

12.行转列，列转行
行转列:
CONCAT(string A/col, string B/col…)：返回输入字符串连接后的结果，支持任意个输入字符串;
CONCAT_WS(separator, str1, str2,…)：它是一个特殊形式的 CONCAT()。第一个参数剩余参数间的分隔符。
分隔符可以是与剩余参数一样的字符串。如果分隔符是 NULL，返回值也将为 NULL。这个函数会跳过分隔符参数后的任何 NULL 和空字符串。
分隔符将被加到被连接的字符串之间;
COLLECT_SET(col)：函数只接受基本数据类型，它的主要作用是将某字段的值进行去重汇总，产生array类型字段。
列转行:
EXPLODE(col)：将hive一列中复杂的array或者map结构拆分成多行。
LATERAL VIEW
用法：LATERAL VIEW udtf(expression) tableAlias AS columnAlias
13.order by、sort by、Distribute By、Cluster By的用法区别
Order By：
全局排序，只有一个Reducer
1．使用 ORDER BY 子句排序
ASC（ascend）: 升序（默认）
DESC（descend）: 降序
2．ORDER BY 子句在SELECT语句的结尾
Sort By：
对于大规模的数据集order by的效率非常低。在很多情况下，并不需要全局排序，此时可以使用sort by
Distribute By：
在有些情况下，我们需要控制某个特定行应该到哪个reducer，通常是为了进行后续的聚集操作。distribute by 子句可以做这件事。distribute by类似MR中partition（自定义分区），进行分区，结合sort by使用
Cluster by:
当distribute by和sorts by字段相同时，可以使用cluster by方式。
cluster by除了具有distribute by的功能外还兼具sort by的功能。但是排序只能是升序排序，不能指定排序规则为ASC或者DESC
14.hive的优化思路：
map join:将小表完全按放到内存中
行列过滤：过滤行列里面的所有空值
列式存储：hive的格式
合理采用分区技术：新键分区表
合理设置map数：过多的map会导致数据倾斜
合理设置reduce数：过多的reduce数会导致小文件过多
压缩：时间换空间，空间换时间
15.hive如何解决数据倾斜
map join :将小表完全按放到内存中
控制空值分布：减少空值
不同的数据类型关联产生数据倾斜
group by：分组去重
数据倾斜时开启负载均衡