1,Common:一系列组件和接口,用于分布式文件系统和通用I/O(序列化,Java RPC和持久化数据结构)
2,Avro:一种序列化系统,用于支持高效、跨语言的RPC和持久化数据存储。
3,MapReduce:分布式数据处理模型和执行环境,运行于大型商用机集群。
4,HDFS:分布式文件系统,运用于大型商用机集群。
5,Pig:数据流语言和运行环境,用以研究非常庞大的数据集。Pig运行在MapReduce和HDFS集群上。
6,Hive:一种分布式的按列存储的数据仓库。Hive管理HDFS中存储的数据,并提供基于SQL的查询语言(有运行时引擎翻译成MapReduce作业)用以查询数据
7,HBase:一种分布式的、按列存储的数据库。HBase使用HDFS作为底层存储,同时支持MapReduce 的批量式计算和点查询(随即读取)
8,ZooKeeper:一种分布式的、可用性高的协调服务。ZooKeeper提供分布式锁之类的基本服务用于构建分布式应用。
9,Sqoop:该工具用于在结构化数据存储(如关系数据库)和HDFS之间高效批量传承数据
10,Oozie:该服务用语运行和调度Hadoop 作业(如MapReduce,Pig,Hive 及Sqoop作业)
2.x中的新特性
1,YARN系统(Yet Another Resource Negotiator),系统上构建了一个新的运行环境,称为MapReduce2。YARN是一个通用的用于运行分布式应用的资源管理器。MapReduce2 替代了前期发行版本中的“经典”运行环境。
2,HDFS联邦管理,该管理将HDFS的命名空间分散到多个namenode中以支持包含有大规模数据文件的集群。
3,HDFS的高可用性,针对系统崩溃而启用备用的namenode来避免namenode的单点故障问题。