何为Hadoop
Hadoop是一个开源的【分布式系统架构】
解决海量数据【存储】和海量数据【计算】的问题
Hadoop vs RDBMS
Hadoop特征
• 高扩展性: 在集群间分配任务数据,可方便的扩展数以千计的节点
• 高可靠性: Hadoop底层维护多个数据副本
• 高容错性: Hadoop框架能够自动将失败的任务重新分配
• 低成本: Hadoop架构允许部署在廉价的机器上
• 灵活,可存储任意类型数据
• 开源,社区活跃
Hadoop核心组件(Hadoop架构)
Common:支持所有其他模块的公共工具程序
HDFS:分布式文件系统,解决分布式存储
MapReduce:分布式计算框架
YARN:分布式资源管理系统,在Hadoop 2.x中引入
Hadoop生态圈
存储: HDFS,分布式文件系统,用于存储大规模数据
查询:
Hive: Hive是Hadoop生态系统的数据仓库工具,它提供了类似SQL的查询语言,允许用户在Hadoop中 执行复杂查询。
Pig: Pig是另一个用于数据分析的工具,它使用一种名为Pig Latin的脚本语言来执行数据流操作。
...
计算: MapReduce
监控: Ambari
协调: ZooKeeper
调度: YARN