hadoop文件系统架构分析

本文深入剖析了Hadoop文件系统(FileSystem)的架构,包括FileSystem的抽象层、GlobFilter、缓存、统计信息、BlockLocation和文件状态等功能。重点讨论了HDFS的实现,指出HDFS是基于AbstractFileSystem的,内部主要由DFSClient实现。此外,文章还探讨了不同文件系统如S3、FTP、Kosmos和S3的实现差异,并强调了FileSystem如何为HDFS提供统一接口以屏蔽不同文件系统的特性。
摘要由CSDN通过智能技术生成

(软件体系结构的大作业,阅读分析hadoop文件系统)

写在前面/后面

FileSystem = abstractFileSystem -》 面向文件系统实现者

​ FileContext -》面向应用程序编写者

FS中具体的文件系统作为最基层的类,用于实现对对应的文件系统的读取,同一继承自FileSystem/AbstarctFileSystem,HDFS是单独的一套系统,对等于VFS,用于操作不同的文件系统。HDFS虽然继承于AbstractFileSystem,主体又DFSClient类实现,(借尸还魂),只是为了做一个文件系统的样子,内在的实现在另外一个HDFS的文件夹里(有单独的DFSInputStream),独立于fs文件夹

FileSystem的结构:

extends Config(提供访问配置文件的功能)

​ 文件创建,读取,重命名,拷贝,删除等操作

GlobFilter

​ description:A class that could decide if a string matches the glob or not

Cache:

​ Caching FileSystem objects,内含有hashMap

Statistics:

statisticsTable是一个IdentityHashMap

BlockLocation:

包含一个文件块的详细信息(全部副本,主机端口,网络拓扑结构,块文件长度,偏移,块长度等)

java
string[] {副本主机};
string[] {副本主机端口};
string[] {主机网络中的拓扑路径};

FileStatus:

​ extends PathFilter,用来过滤文件,或的想要的文件。

​ 获取文件状态,path.length,isdir,block_replocation等

Trash:

垃圾桶的功能

fs有用文章:

http://huashuizhuhui.iteye.com/blog/1867511

http://huashuizhuhui.iteye.com/category/209973

其他类:

DFSClinet:

​ DFSClient can connect to a Hadoop FileSystem and perform basic file tasks.It uses the ClientProtocol to commuicate with a NameNode daemon,and connects directly to DataNodes to read/write block data.HDFS users should obtain an instance of DistributedFileSystem,whith uses DFSClient to handle fileSystem tasks.

要求

  1. 阅读教师提供的前期分析报告[3],并仔细阅读与修正。

    ​ –

  2. 下载 JDK、Apache 的构建工具 Maven[4]、Eclipse[2],构建阅读代码的环 境。

    ​ –

  3. 在详细阅读源代码的基础上,理解设计思想,并给出软件架构图。

这里写图片描述

​ FS中具体的文件系统作为最基层的类,用于实现对对应的文件系统的读取,同一继承自FileSystem/AbstarctFileSystem,HDFS是单独的一套系统,对等于VFS,用于操作不同的文件系统。HDFS虽然继承于AbstractFileSystem,主体又DFSClient类实现,(借尸还魂)ÿ

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值