执行流程:
①客户端向RM发送执行请求
②RM接收请求,并创建一个容器用来执行AM,启动后与RM保持心跳,随时给RM反应情况。
③AM向RM发送请求,申请相应的容器(内存、CPU等资源)
④将申请的资源放入相应的容器中
⑤AM对调用容器的资源,NM启动执行程序,并与NM进行通信
⑥NM对AM保持心跳,同时NM向AM发送任务执行情况和资源的使用情况
1.yarn概述
答:
yarn是一个通用资源管理系统和调度平台,可以为上层应用提供统一的资源管理和调度,为一些运算提供一些资源,它的引入为集群在利用率、资源统一管理和数据共享等带来了巨大的好处。
2.yarn的特征
答:
①yarn只提供运算资源的调度;
②yarn的主管角色叫ResourceManager;
③yarn中具有提供运算资源的角色叫NodeManager;
④yarn上面可以运算各种类型的分布式计算,只要他们的各自框架符合yarn规范的资源请求机制即可;
⑤yarn是一个资源调低平台,各种运算集群都可以整合在一起在一个物理集群上,提高资源利用率,方便数据的共享。
3.yarn的三大组件。
答:
①ResoucrceMananger(RM) 负责所有资源的监控、分配和管理,RM 只接受 NM 的资源回报信息,对于具体的资源处理则交给 NM 自己处理;②ApplicationMaster(AM)负责每一个具体应用程序的调度和协调;③NodeManager(NM)负责每一个节点的维护。对于所有的application,RM拥有绝对的控制权和对资源的分配权,而每一个AM则会和RM协商资源,同时和NM通信来执行和监控task。