学Hive 认识Hive

Hive是一款由Facebook开源的大数据统计工具,基于Hadoop生态,提供SQL接口进行大数据处理。它将SQL语句转换为MapReduce任务运行在Yarn上,支持分布式存储如HDFS和云存储,并通过元数据管理数据。虽然Hive在事务处理和实时性方面较弱,但因其易于使用而广泛应用于批处理场景。Hive与RDBMS相比成本更低、处理数据量更大,适用于离线分析。
摘要由CSDN通过智能技术生成

官网 :hive.apache.org

hive简介

Hadoop广义是大数据生态圈,其中hive是使用sql完成大数据统计分析的工具
Hadoop狭义:HDFS MR Yarn

Hive是facebook公司开源的工具,用来解决海量的结构化日志的统计问题hive是构建在hadoop之上的数据仓库


 HDFS:hive的数据是存放在HDFS(distributed storage),元数据(medadata)存在对应的底层关系型数据库,一般是MySQL
MR(计算引擎):Hive的作业(SQL)是通过hive的框架翻译成MR作业。这里的引擎也可以是Tez,Spark。不管底层用的是什么引擎,对于用户来说是不感知的。同样的SQL,只需要通过参数切换,就可以实现。
Yarn:hive的作业是提交到Yarn上去运行的

Hadoop开发可以是单机,但生产上一定是分布式

Hive其实就是一个**客户端**,没有集群的概念,提交作业到集群的Yarn上面去运行(没有感情的提交机器)
SQL ==> Hive ==> MR ==> Yarn

生产环境上,哪台机器需要提交hive,就在哪台机器配置hive,不同的机器上的hive是相互独立的

Hive职责:**将SQL翻译成底层对应的执行引擎作业**

distributed storage:HDFS,AWS S3,各种云,COS,OSS
这些系统,hive都可以对接,只要有对应的jar包

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值