Hadoop 生态系统中个项目的简介

1，Common：一系列组件和接口，用于分布式文件系统和通用I/O（序列化，Java RPC和持久化数据结构）
2，Avro：一种序列化系统，用于支持高效、跨语言的RPC和持久化数据存储。
3，MapReduce：分布式数据处理模型和执行环境，运行于大型商用机集群。
4，HDFS：分布式文件系统，运用于大型商用机集群。
5，Pig：数据流语言和运行环境，用以研究非常庞大的数据集。Pig运行在MapReduce和HDFS集群上。
6，Hive：一种分布式的按列存储的数据仓库。Hive管理HDFS中存储的数据，并提供基于SQL的查询语言（有运行时引擎翻译成MapReduce作业）用以查询数据
7，HBase：一种分布式的、按列存储的数据库。HBase使用HDFS作为底层存储，同时支持MapReduce 的批量式计算和点查询（随即读取）
8，ZooKeeper：一种分布式的、可用性高的协调服务。ZooKeeper提供分布式锁之类的基本服务用于构建分布式应用。
9，Sqoop：该工具用于在结构化数据存储（如关系数据库）和HDFS之间高效批量传承数据
10，Oozie：该服务用语运行和调度Hadoop 作业（如MapReduce,Pig,Hive 及Sqoop作业）

2.x中的新特性
1，YARN系统（Yet Another Resource Negotiator），系统上构建了一个新的运行环境，称为MapReduce2。YARN是一个通用的用于运行分布式应用的资源管理器。MapReduce2 替代了前期发行版本中的“经典”运行环境。
2，HDFS联邦管理，该管理将HDFS的命名空间分散到多个namenode中以支持包含有大规模数据文件的集群。
3，HDFS的高可用性，针对系统崩溃而启用备用的namenode来避免namenode的单点故障问题。