hadoop是什么
1.hadoop是一个有Apache基金会所开发的分布式系统基础架构
2.主要解决,海量数据的存储和海量数据的分析计算问题。
3.广义上来说,hadoop通常是指一个更广泛的概念---hadoop生态圈。
hadoop优势
1.高可靠性:hadoop底层维护多个数据副本,所以即使hadoop某个计算元素或存储出现故障,也不会导致数据的丢失。
2.高扩展性:在集群间分配任务数据,可方便的扩展数以千计的节点。
3.高效性:在MapReduce的思想下,hadoop是并行工作,以加快任务处理速度。
4.高容错性:能够自动将失败的任务重新分配。
hadoop组成
1.hadoop1.x和hadoop2.x的区别
2.HDFS架构概述
1.NameNode(nn):存储文件的元数据,如文件名,文件目录结构,文件属性(生成时间,副本数,文件权限),以及每个文件的块列表和块所在的dataNode。
2.DataNode(dn):在本地文件系统存储文件块数据,以及块数据的校检和。
3.secondary NameNode(2nn):用来监控HDFS状态的辅助后台程序,每隔一段时间获取Hdfs元数据的快照。
3.YARN架构
3.MapReduce
1.MapReduce将计算过程分为两个阶段:Map和Reduce。
1.map阶段并行处理输入数据
2.Reduce阶段对Map结果进行汇总
大数据生态体系
推荐系统框架图