Hadoop源代码分析(一)总括

转载 2013年12月05日 09:31:17

Google的核心竞争技术是它的计算平台。Google的大牛们用了下面5篇文章,介绍了它们的计算设施。 
GoogleCluster
 http://research.google.com/archive/googlecluster.html 
Chubby
http://labs.google.com/papers/chubby.html 
GFS
http://labs.google.com/papers/gfs.html 
BigTable
http://labs.google.com/papers/bigtable.html 
MapReduce
http://labs.google.com/papers/mapreduce.html 
很快,Apache上就出现了一个类似的解决方案,目前它们都属于ApacheHadoop项目,对应的分别是: 
Chubby-->ZooKeeper 
GFS-->HDFS 
BigTable-->HBase 
MapReduce-->Hadoop 
目前,基于类似思想的Open Source项目还很多,如Facebook用于用户分析的Hive 
HDFS
作为一个分布式文件系统,是所有这些项目的基础。分析好HDFS,有利于了解其他系统。由于HadoopHDFSMapReduce是同一个项目,我们就把他们放在一块,进行分析。

下图是MapReduce整个项目的顶层包图和他们的依赖关系。Hadoop包之间的依赖关系比较复杂,原因是HDFS提供了一个分布式文件系统,该系统提供API,可以屏蔽本地文件系统和分布式文件系统,甚至象Amazon S3这样的在线存储系统。这就造成了分布式文件系统的实现,或者是分布式文件系统的底层的实现,依赖于某些貌似高层的功能。功能的相互引用,造成了蜘蛛网型的依赖关系。一个典型的例子就是包confconf用于读取系统配置,它依赖于fs,主要是读取配置文件的时候,需要使用文件系统,而部分的文件系统的功能,在包fs中被抽象了。

Hadoop的关键部分集中于图中蓝色部分,这也是我们考察的重点。

Hadoop源代码分析(一) - manny - 你的目标-卓越非凡
 

相关文章推荐

Hadoop-0.20.0源代码分析(08)

这里,继续对FsShell类中一些命令进行阅读分析,主要是看与拷贝文件有关的几个命令。 cp命令 该命令实现对文件的拷贝操作,并且支持在不同的文件系统之间进行文件的拷贝。拷贝文件涉及的操作...

Hadoop-0.20.0源代码分析(01)

Hadoop 框架是两个模型实现的有机整合,亦即Hadoop分布式文件系统(HDFS)与MapReduce并行编程模型,也就是说,Hadoop框架要能够提供的基本功能就是,在存储系统HDFS上进行Ma...

hadoop block源代码分析DataNode部分(一)

hadoop作为开源软件,之前我一直看它的原理和结构,已经了解了不少。但是要想深入了解hadoop的思想和设计,我觉得还是必须要研究源代码。目前我正在看Hadoop源代码分析,是别人总结出的文档。接下...

Hadoop-0.20.0源代码分析(03)

在Hadoop框架源代码org.apache.hadoop.fs包中,都是关于Hadoop文件系统实现的相关类,主要包括文件系统模型的建立,及其在该文件系统定义、实现基本的文件操作。例如给出文件系统抽...

Hadoop源代码分析 - HDFS

Hadoop 源代码分析(1)overview http://caibinbupt.javaeye.com/blog/262412 Hadoop 源代码分析(2)package ht...

Hadoop MapReduce程序分析飞机航班信息源代码

1: 数据来源: 基于美国民航航班1987年数据,开发MapReduce应用程序计算其中某一年各个航班的飞行数据。 数据式样 Year,Month,DayofMonth,DayO...

某企业级hadoop源代码分析-1

本文尝试分析某大型大数据解决方案公司企业级hadoop源代码,班门弄斧。 本系列将分三篇文章,对所做的修改进行分析。修改点1Index: org/apache/hadoop/hdfs/server/...

Hadoop源代码分析

Hadoop源代码分析(一) 关键字: 分布式 云计算  Google的核心竞争技术是它的计算平台。Google的大牛们用了下面5篇文章,介绍了它们的计算设施。  GoogleCluster...

Hadoop-0.20.0源代码分析(04)

前面,分析了org.apache.hadoop.fs.Filesystem抽象类,我们已经了解到,要实现一个最基本的文件系统都需要包含哪些要点。下面具体到某个实现Filesystem的具体实现类,基于...

Hadoop-0.20.0源代码分析(11)

这里分析一下IPC模型中的Server端的实现。该Server类的实现有点复杂,而且涉及到网络中字节流缓冲区的操作问题,及其字节数据的反序列化。 Server类 该Server是服务端的抽...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:深度学习:神经网络中的前向传播和反向传播算法推导
举报原因:
原因补充:

(最多只允许输入30个字)