Hadoop学习笔记(1)----项目简述

1.Common：一系列组件和接口，用于分布式文件系统和通用I/O(序列化、Java RPC和持久化数据结构)
2.Avro:一种序列化系统，用于支持高效，跨语言的RPC和持久化数据存储
3.MapReduce：分布式数据处理模型和执行环境，运行于大型商用机集群
4.HDFS：分布式文件系统，运行于大型商用机集群
5.Pig：数据流行语言和运行环境，用以探究非常庞大的数据集。Pig运行在MapReduce和HDFS集群上
6.Hive：一种分布式的，按列存储的数据仓库。Hive管理HDFS中存储的数据，并提供基于SQL的查询语言（由运行时引擎翻译成MapReduce作业）用以查询数据
7.Hbase：一种分布式的、按列存储的数据库。HBase使用HDF作为底层存储，勇士支持MapReduce的批量式计算和点查询（随机读取）
8.ZooKeeper：一种分布式的、可用性高的协调服务。ZooKeeper提供分布式锁之类的基本服务用于构建分布式应用
9.Sqoop：该工具用于在结构化数据存储（如关系型数据库）和HDFS之间高效批量传输数据
10.Oozie：该服务用于运行和调度Hadoop作业（如MapReduce，Pig，Hive及Sqoop作业）