【快速入门大数据】Hadoop3.x新特性

3.x必须在java8环境为前提
在这里插入图片描述

  • Common改进
    shell被重写 过时api方法可能被删除 向下兼容老版本命令

  • hdfs改进(ec代替副本机制 50%提升空间利用率)
    删除编码方式
    支持两个以上的namenode(高可用 可用+备用)
    datanode平衡
    单个datanode管理多个磁盘目录。
    添加或替换磁盘导致datanode数据倾斜。
    现有hdfsbalanse没办法解决倾斜 ,使用新的diskbalance去cli解决
    对应临时端口冲突,改进
    在这里插入图片描述

  • yarn改进
    timeline历史版本稳定性
    contain队列稳定性
    在这里插入图片描述

  • mapreduce
    task提升30%
    添加新方法、减小mr 的heap大小

  • 其他
    hadoop jar,避免hadoop的依赖和应用程序的依赖有关系上的泄露
    继承微软 阿里存储系统文件系统

评论 19
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

瑞 新

请小哥喝杯茶~

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值