HDFS基本介绍&读写流程

本文详细介绍了Hadoop分布式文件系统(HDFS)的基本组成、存储方式、数据副本机制、NameNode和DataNode的角色,以及HDFS的写入和读取数据流程,包括数据校验和节点丢失策略。通过对HDFS的理解,可以更好地掌握海量数据的存储和处理。
摘要由CSDN通过智能技术生成

1、Hadoop内部组成

HDFS: 海量数据的存储
MapReduce: 海量数据的离线计算
Yarn: 集群资源调度

2、HDFS全称

Hadoop Distribute File System 即 Hadoop分布式文件系统
主要作用:即存储海量数据
为什么能存储海量数据?? 因为其空间大,空间大的原因为服务器多、磁盘多。且支持扩展

3、HDFS组成部分

管理者-Master NameNode 集群中有1-2个,用于管理集群中的工作者
工作者-Slave DataNode 集群中有多个 用于存储计算数据 辅助管理
SecondaryNameNode 集群中有0-1 只负责辅助NameNode管理工作

4、HDFS存储数据的方式

以数据块的方式存储数据。默认一个数据块128M,该数值可以修改。 注意:这里的128仅仅是切分数据的阈值。
一个大的数据被切分成多个小的128M的数据块,分别存储在集群多个节点的不同位置。 数据副本机制 数据副本默认是3份。
一个数据存储到HDFS后,数据自动复制两份,共三份(三分相同的数据-数据冗余)

5、数据副本存放机制

第一个副本在客户端所在的节点(客户端也是集群内的节点),若客户端在集群外ÿ

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值