Hive-day01-简单介绍

一：什么是Hive

        1：hive简介

                hive：解决海量结构化日志的数据统计工具

                hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张表，并提供类SQL查询功能。

        2：本质：将HQL转化为MapReduce程序

 hive处理的数据存储在HDFS，hive分析数据底层的实现是MapReduce，执行程序运行在Yarn上。

二：Hive优缺点

        1：优点

                1：操作接口采用HQL语法，提供快速开发能力

                2：避免了去写MapReduce，减少开发人员的学习成本

                3：常用于数据分析，对实时性要求不高的场合

                4：优势在于处理大数据，对于处理小数据没有优势，因为hive执行延迟比较高

                5：hive支持用户自定义函数，用户可以根据自己的需求来实现自己的函数。

        2：缺点

                1：Hive的HQL表达能力有限

                        1：迭代算法无法表达

                        2：数据挖掘方面不擅长，由于MapReduce数据处理流程的限制，效率更高的算法却无法实现

                2：Hive的效率比较低

                        1：Hive自动生成的MapReduce作业，通常情况不够智能化

                        2：Hive调优比较困难，粒度较粗

三：Hive架构原理

        1： 用户接口：Client

         CLI（command-line interface）、JDBC/ODBC(jdbc 访问hive)、WEBUI（浏览器访问hive）

        2：元数据：Metastore

        元数据包括：表名、表所属的数据库（默认是default）、表的拥有者、列/分区字段、
表的类型（是否是外部表）、表的数据所在目录等；    

        3：Hadoop

        使用HDFS 进行存储，使用MapReduce 进行计算。

        4：驱动器：Driver

                1：解析器（SQL Parser）：将SQL 字符串转换成抽象语法树AST，这一步一般都用第三方工具库完成，比如antlr；对AST 进行语法分析，比如表是否存在、字段是否存在、SQL语义是否有误。
                2：编译器（Physical Plan）：将AST 编译生成逻辑执行计划。

                3：优化器（Query Optimizer）：对逻辑执行计划进行优化。
                4：执行器（Execution）：把逻辑执行计划转换成可以运行的物理计划。对于Hive 来
说，就是MR/Spark。

四、Hive和数据库的比较

        1：Hive可支持大规模数据，数据库支持的数据规模较小

        2：Hive不建议对数据的改写，所有的数据都是在加载的时候确定好的，读多写少。数据库的数据通常是要经常进行修改的。

        3：Hive延迟高，数据库延迟低。