yarn工作流程

这里写图片描述

服务功能

ResouceManager:
    1、处理客户端的请求
    2、启动和监控ApplicationMaster
    3、监控nodemanager
    4、资源的分配和调度

Nodemanager
    1、处理单个节点的资源管理
    2、处理来自ResouceManager的命令
    3、处理来自ApplicationMaster的命令

ApplicationMaser
    1、为应用程序申请资源,并分配给内部任务
    2、任务的监控和容错

Container
对多任务运行环境的抽象,包括CPU、内存等多维度资源以及环境变量、启动命令等任务运行的相关环境

运行流程

    1、客户端向RM中提交程序
    2、RM向NM中分配一个container,并在该container中启动AM
    3、AM向RM注册,这样用户可以直接通过RM査看应用程序的运行状态(然后它将为各个任务申请资源,并监控它的运行状态,直到运行结束)
    4、AM采用轮询的方式通过RPC协议向RM申请和领取资源,资源的协调通过异步完成
    5、AM申请到资源后,便与对应的NM通信,要求它启动任务
    6、NM为任务设置好运行环境(包括环境变量、JAR包、二进制程序等)后,将任务启动命令写到一个脚本中,并通过运行该脚本启动任务
    7、各个任务通过某个RPC协议向AM汇报自己的状态和进度,以让AM随时掌握各个任务的运行状态,从而可以在任务失败时重新启动任务
    8、应用程序运行完成后,AM向RM注销并关闭自己

关闭historyserver

    mr-jobhistory-daemon.sh stop historyserver

  • 0
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值