hadoop:
由大量独立的服务器通过网络互联形成集群,每个服务器带存储
优势:计算与存储融合,支持横向扩展,更好的扩展性
劣势:解决数据冲突时需要节点间协作
适用范围:
1.数据仓库和离线数据分析(MPP,Hadoop/HBase)
2.大规模在线实时应用(单行事务处理能满足的情景)(HBase)
Hadoop的必学内容:
core:一套分布式文件系统以及支持Map-Reduce的计算框架
HDFS:Hadoop分布式文件系统
Map/Reduce:是一个使用简易的软件框架,基于它写出来的应用程序能够运行在由由上千个商用机器组成的大型集群上,并以一种可靠容错的方式并行处理上T级别的数据集
ZooKeeper:是高可用的和可靠的分布式协同系统
Hive:是为提供简单的数据操作而设计的下一代分布式数据仓库。它提供了简单的类似SQL的语法的HiveQL语言进行数据查询
HBase:建立于Hadoop Core之上提供一个可扩展的数据库系统
Flume:一个分布式,可靠,和高可用的海量日志聚合的系统,支持在系统中定制各类数据发送方,用于收集数据
Mahout:是一套具有可扩充能力的机器学习类库
Sqoop:是Apache下用于RDBMS和HDFS互相导数据的工具
由大量独立的服务器通过网络互联形成集群,每个服务器带存储
优势:计算与存储融合,支持横向扩展,更好的扩展性
劣势:解决数据冲突时需要节点间协作
适用范围:
1.数据仓库和离线数据分析(MPP,Hadoop/HBase)
2.大规模在线实时应用(单行事务处理能满足的情景)(HBase)
Hadoop的必学内容:
core:一套分布式文件系统以及支持Map-Reduce的计算框架
HDFS:Hadoop分布式文件系统
Map/Reduce:是一个使用简易的软件框架,基于它写出来的应用程序能够运行在由由上千个商用机器组成的大型集群上,并以一种可靠容错的方式并行处理上T级别的数据集
ZooKeeper:是高可用的和可靠的分布式协同系统
Hive:是为提供简单的数据操作而设计的下一代分布式数据仓库。它提供了简单的类似SQL的语法的HiveQL语言进行数据查询
HBase:建立于Hadoop Core之上提供一个可扩展的数据库系统
Flume:一个分布式,可靠,和高可用的海量日志聚合的系统,支持在系统中定制各类数据发送方,用于收集数据
Mahout:是一套具有可扩充能力的机器学习类库
Sqoop:是Apache下用于RDBMS和HDFS互相导数据的工具