yarn ha

HDFS+MapReduce。共同点都是分布式的，主从关系结构。

 HDFS是包括主节点NameNode，只有一个；还有从节点DataNode，有很多个。

 NameNode含有我们用户存储的文件的元数据信息。把这些数据存放在硬盘上，但是在运行时是加载在内存中的。

 缺点：(1)当我们的NameNode无法在内存中加载全部元数据信息的时候，集群的寿命到头了。

       (2)权限设计是不够彻底的

(3)大量小文件的存储的话，会造成NameNode的内存压力骤增。

 改进：(1)2个NameNode一起共存，组成hdfs federation。

       (2)HA 自动、手工  

 MapReduce包括主节点JobTracker，只有一个；还有从节点TaskTracker，有很多个。

 JobTracker主要的工作是管理用户提交的作业和分配资源。

 缺点：(1)对于实时性作业和批处理作业，需要搭建不同的集群环境，每个集群的资源利用率是不高的。

       (2)MapReduce职责过多，需要分解。

 Yarn是一个平台，用于处理资源分配和运行任务的。

转载于:https://blog.51cto.com/chenshenglong/1399040