实习日志Day2

本文介绍了ApacheHive作为分布式MySQL计算工具,如何通过类SQL接口简化MapReduce编程,以及Hive的元数据存储模式(内嵌、本地、远程)、Metastore的作用和HDFS架构,包括Namenode和Datanode的角色。
摘要由CSDN通过智能技术生成

Apache Hive

分布式SQL计算-Hive

Apache Hive是一款分布式MySQL计算的工具,其主要功能是:

  将MySQL语句翻译成MapReduce程序运行

为什么使用 Hive 

使用 Hadoop MapReduce 直接处理数据所面临的问题
  人员学习成本太高需要掌握 java 、 Python 等编程语言
  MapReduce 实现复杂查询逻辑开发难度太大
使用 Hive 处理数据的好处
  操作接口采用类 SQL 语法,提供快速开发的能力(简单、容易上手)

Hive元数据存储的三种模式?

内嵌模式
本地模式
远程模式(推荐)

Hive元数据存储三种模式的区别?

Metastore元数据存储   


元数据包含:用Hive创建的database、table、表的字段等元信息。元数据存储:存在关系型数据库中,如:hive内置的Derby数据库或者第三方MySQL数据库等Metastore:即元数据存储服务,作用是:客户端连接metastore服务,metastore再去连接MySOL等数据库来存取元数据有了metastore服务,就可以有多个客户端同时连接,而且这些客户端不需要知道MySQL等数据库的用户名和密码,只需要连接metastore 服务即可。

HDFS的架构

 
HDFS采用Master/Slave架构.
一个HDFS集群有两个重要的角色,分别是Namenode和Datanode.
HDFS的四个基本组件:HDFS Client、NameNode、DataNode和Secondary NameNode.

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值