HDFS的block和切片(split)的区别

HDFS的block和切片(split)的区别

1.split是MapReduce里的概念,是切片的概念,split是逻辑切片,而block是物理切块。

2.split的东西大小在默认的情况下和HDFS的block切块大小一致,为的是MapReduce处理的时候减少由于split和block之间大小不一致,可能会有多余的网络之间的传输。

 (1)一个文件从本地被上传到HDFS时,会进行分块,块大小默认是64M,同时会产生副本数保存在其他datanode上,默认副本数是3个,课通过配置文件修改
(2)要进行分片时,先把块从分布式文件系统中取出,调用getSplits(),通过分片算法对块进行分片,片的单位大小就是块的大小,hadoop默认128M.
(3)一个split只能属于一个文件,但是一个文件会被切成很多片
(4)一个split可能包含多个block,但一个block不一定只属于一个split。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值