hadoop的基础理解

本文介绍了Hadoop分布式文件系统(HDFS)的副本机制,通过将文件复制到多个节点以提高数据冗余和可靠性。同时,讨论了ApacheHive如何利用HDFS并结合SQL查询进行大规模分布式数据处理,强调了Hive的易用性和MapReduce的强大支持。
摘要由CSDN通过智能技术生成

HDFS的副本机制

     HDFS的副本机制,HDFS上的每一份文件,默认是存储3个副本。一般来说,这三个副本会存放在多个地方,比如说同一个机房的不同机架,不同机房的机架,避免意外发生遭到团灭。在写入数据时,如果写入的DataNode挂掉,则整个任务失败;读取数据时,如果读取的DataNode挂掉,则通过Yarn寻找另一台网络拓扑距离最近的机器上的备份数据进行断点续传。

  Apache Hive是一款分布式SQL计算的工具,其主要功能是:将SQL语句翻译成MapReduce程序运行。基于Hive为用户提供了分布式SQL计算能力,写的是SQL,运行的是MapReduce。

Apache Hive的基础理解:

Hive的优点:

1.操作接口采用类SQL语法,提供快速开发的能力(简单、容易上手)。

2.底层执行MapReduce,可以完成分布式海量数据的SQl处理

Apache Hive 的基础架构:

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值