HDFS的副本机制和机架感知

HDFS文件副本机制: 

所有的文件都是以block快的方式存放在HDFS文件系统当中,作用如下:

  1.  一个文件有可能大于集群中任意一个磁盘,引入 块机制,可以很好的解决这个问题
  2. 使用块作为文件存储的逻辑单位可以简化存储子系统
  3. 块非常适合用于数据备份进而提供数据容错能力
  4. Hadoop1当中,文件的block快默认大小是64M,hadoop2当中,文件的block块大小默认是128M,block块的大小可以通过hdfs-site.xml当中的配置文件进行指定。

<property>
<name>dfs.block.size</name>
<value>块大小 以字节为单位</value>
</property>
 

机架感知:
 

hdfs分布式文件系统的内部有一个副本存放策略:以默认的副本数=3为例:

  1. 第一个副本块存本机
  2. 第二个副本块存跟本机同机架内的其他服务器节点
  3. 第三个副本块存不同机架的服务器节点上

 

 

 

 

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值