Hadoop系列之Hadoop3.x 新特性(7)

Hadoop 3.x 在多个方面进行了重大更新,包括支持纠删码以节省存储空间,YARN Timeline Service v.2 提升可扩展性和可靠性,引入Opportunistic Containers优化资源利用率,以及对Shell脚本、客户端JAR、NameNode高可用性等方面的改进。此外,还增加了对数据节点内平衡器、S3Guard等新特性的支持。
摘要由CSDN通过智能技术生成

Hadoop 3.x 新特性

相对于之前主要生产发布版本 Hadoop 2,Apache Hadoop 3 整合许多重要的增强功能。 Hadoop 3 是一个可用版本,提供了稳定性和高质量的 API,可以用于实际的产品开发。最低 Java 版本要求从 Java7 变为 Java8,所有 Hadoop 的 jar 都是基于 Java 8 运行是版本进行编译执行的,仍在使用Java 7或更低Java版本的用户需要升级到Java 8。

下面简要介绍一下Hadoop3的主要变化。

HDFS 支持纠删码(erasure coding)

纠删码是一种比副本存储更节省存储空间的数据持久化存储方法。比如 Reed-Solomon(10,4) 标准编码技术只需要1.4倍的空间开销,而标准的HDFS副本技术则需要3倍的空间开销。由于纠删码额外开销主要在于重建和远程读写,它通常用来存储不经常使用的数据(冷数据)。另外,在使用这个新特性时,用户还需要考虑网络和CPU开销。

YARN 时间线服务 v.2(YARN Timeline Service v.2)

YARN Timeline Service v.2 用来应对两个主要挑战:(1)提高时间线服务的可扩展

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

不二人生

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值