官网 :hive.apache.org
hive简介
Hadoop广义是大数据生态圈,其中hive是使用sql完成大数据统计分析的工具
Hadoop狭义:HDFS MR Yarn
Hive是facebook公司开源的工具,用来解决海量的结构化日志的统计问题hive是构建在hadoop之上的数据仓库
HDFS:hive的数据是存放在HDFS(distributed storage),元数据(medadata)存在对应的底层关系型数据库,一般是MySQL
MR(计算引擎):Hive的作业(SQL)是通过hive的框架翻译成MR作业。这里的引擎也可以是Tez,Spark。不管底层用的是什么引擎,对于用户来说是不感知的。同样的SQL,只需要通过参数切换,就可以实现。
Yarn:hive的作业是提交到Yarn上去运行的
Hadoop开发可以是单机,但生产上一定是分布式
Hive其实就是一个**客户端**,没有集群的概念,提交作业到集群的Yarn上面去运行(没有感情的提交机器)
SQL ==> Hive ==> MR ==> Yarn
生产环境上,哪台机器需要提交hive,就在哪台机器配置hive,不同的机器上的hive是相互独立的
Hive职责:**将SQL翻译成底层对应的执行引擎作业**
distributed storage:HDFS,AWS S3,各种云,COS,OSS
这些系统,hive都可以对接,只要有对应的jar包