Hadoop2.x与Hadoop3.x对比

参考:https://blog.csdn.net/c36qUCnS2zuqF6/article/details/82111579

Hadoop 2.xHadoop 3.x
开源
最低支持Java版本java 7java 8
容错通过复制来处理容错通过Erasure编码处理容错
数据平衡使用HDFS平衡器使用Intra-data节点平衡器
存储Scheme使用3X副本Scheme支持HDFS中的擦除编码
存储开销HDFS在存储空间中有200%的开销存储开销仅为50%
存储开销示例(6个块)由于副本方案(Scheme),将有18个块占用空间空间9个块,其中6块空间,3块用于奇偶校验
YARN时间线服务使用具有可伸缩性问题的旧时间轴服务改进时间线服务v2并提高时间线服务的可扩展性和可靠性
默认端口范围一些默认端口是Linux临时端口范围。所以在启动时,他们将无法绑定这些端口已经移出了短暂的范围
工具Hive,pig,Tez,Hama,Giraph其他Hadoop工具Hive,pig,Tez,Hama,Giraph其他Hadoop工具
兼容的文件系统HDFS、FTP文件系统、 Amazon S3、Windows Azure存储Blob支持前面以及Microsoft Azure Data Lake文件系统
Datanode资源不专用于MapReduce,我们可以将它用于其他应用程序此处数据节点资源也可用于其他应用程序
API兼容性与Hadoop 1.x程序兼容的MR API,可在Hadoop 2.X上执行MR API与运行Hadoop 1.x程序兼容,以便在Hadoop 3.X上执行
Microsoft Windows可以部署在Windows上可以部署在Windows上
插槽/容器支持支持
单点故障具有SPOF的功能,因此只要Namenode失败,它就会自动恢复具有SPOF的功能,因此只要Namenode失败,它就会自动恢复
HDFS联盟多个NameNode用于多个Namespace多个NameNode用于多个Namespace
扩展性每个群集10,000个节点每个群集扩展超过10,000个节点
访问数据通过Datanode缓存,可以快速访问数据通过Datanode缓存,可以快速访问数据
HDFS快照支持支持
平台可以运行事件处理,流媒体和实时操作可以运行事件处理,流媒体和实时操作
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值