Hadoop——Yarn
ResourceManager
管理整个yarn集群的主节点
作用:1. 接受客户端的任务请求;2. 接收和监控Nodemanager的资源汇报情况;3.负责资源的分配和调整;4.启动ApplicationMaster。
它是全局的资源管理器,整个集群中只有“一个”,负责集群资源的统一管理和分配
Nodemanager
整个yarn集群的从节点。
作用:1. 启动Container运行task。2. 上报资源(container的情况、task处理情况);
整个集群中有多个,负责对单个节点资源管理和使用。而container是一个可以让我们运行job的平台
ApplicationMaster
主要的作用是对单个Application(Job)的task的管理和调度。
作用:1. 负责RM申请资源;2. 向NM发出启动Container的指令;3. 接受task处理的状态信息
Container
Yarn中的对资源的抽象。如:内存、带宽、CPU核数都分配给了指定的容器来使用。当AM向RM申请了资源的时候,RM向AM返回的资源就是启动Container的资源情况。我们指定的job的执行资源是从container中获取的。
Hadoop1.0时期mapreduce的计算框架
Hadoop2.0时期 —— Yarn