HDFS精华文章汇总

本文汇总了70多篇关于Hadoop HDFS的文章,涵盖了Federation、Ozone、副本策略、特性分析、Erasure Code等多个主题,旨在帮助读者系统地学习和理解HDFS的相关知识。
摘要由CSDN通过智能技术生成

前言


自2015年下半年起,笔者开始写关于Hadoop的文章(主要集中在HDFS),包括源码分析类的,问题分析解决又或者是内部机制剖析。这些文章目前汇总数量已经达到70+篇。这些文章对于笔者来说是一个宝贵的资料,这些文章见证了笔者从一名Hadoop贡献者成长为Hadoop Committer的过程。同样笔者相信,这些文章对于那些对HDFS感兴趣的人同样是很好的学习资料。因此,笔者觉得是时候写一篇文章来做这样的索引目录页,来帮助博客朋友来全局地,系统地阅读和学习这些文章。另外特别注明一点,部分15,16年的文章,笔者其实已经整理成书(<<深度剖析Hadoop HDFS>>)并已经出版了,详见左侧笔者介绍区域。笔者对这些文章进行了简单的分类,并在小节开头进行了简单的介绍。

Federation


HDFS Federation是用来解决HDFS扩展性问题的方案之一。随着数据量越来越大,单一的NameNode遇到了性能瓶颈,怎么办?在这个方案中,可以支持一个集群内有多namespace(NameNode)的情况,但他们是可以复用DataNode的。

HDFS基于路由的Federation方案:http://blog.csdn.net/androidlushangderen/article/details/78573732
HDFS Federation机制:http://blog.csdn.net/androidlushangderen/article/details/52135506

Ozone


Ozone是HDFS的一个新方向,它指在HDFS上做对象存储。Ozone的架构与设计与HDFS其实已经是完全不同的一套体系结构了。但在未来可能会把这种关系打通,也就是在Ozone上构建新的HDFS。

聊聊HDFS和Ozone的融合:http://blog.csdn.net/androidlushangderen/article/details/78450332
HDFS Ozone整体概述:http://blog.csdn.net/androidlushangderen/article/details/78168479
HDFS Ozone的Pipeline实现机制:http://blog.csdn.net/androidlushangderen/article/details/78010639
HDFS对象存储:Ozone的块异步删除服务:http://blog.csdn.net/androidlushangderen/article/details/77619513
HDFS对象存储的版本管理设计:http://blog.csdn.net/androidlushangderen/article/details/76039268
HDFS对象存储服务:Ozone的元数据管理:http://blog.csdn.net/androidlushangderen/article/details/74860017
HDFS的新方向:Ozone对象存储:http://blog.csdn.net/androidlushangderen/article/details/71006240
HDFS对象存储–Ozone架构设计:http://blog.csdn.net/androidlushangderen/article/details/50767774

副本、块、磁盘策略


HDFS中聊得最多的就是块,副本,磁盘,这个模块主要介绍HDFS现有的一些磁盘,副本位置选择策略。

聊聊HDFS中的副本放置策略和磁盘选择策略间的选择“矛盾”:http://blog.csdn.net/androidlushangderen/article/details/71970499
HDFS副本放置节点选择的优化:http://blog.csdn.net/androidlushangderen/article/details/70195430
HDFS内副本和块的状态分析:http://blog.csdn.net/androidlushangderen/article/details/53572600
DataNode启动优化改进:磁盘检测并行化:

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值