YARN/MRv2 Node Manager深入剖析—Container状态机分析

转载董的博客：http://dongxicheng.org/mapreduce-nextgen/yarnmrv2-node-manager-container-state-machine/

阅读本文之前，请先阅读这篇博文：“YARN/MRv2 Node Manager深入剖析—NM整体架构”。本文的分析基于Hadoop trunk上的“Revision 1452188”版本，具体可参考：http://svn.apache.org/repos/asf/hadoop/common/branches/branch-2/。

Container是NodeManager中用于维护一个Container生命周期的数据结构，它的实现是ContainerImpl，该类维护了一个Container状态机，记录了Container可能存在的各个状态以及导致状态间转换的事件，当某个事件发生时，ContainerImpl会根据实际情况进行节点状态转移，同时触发一个行为。

如图所示，在NM看来，每个节点有10种基本状态（ContainerState）和10种导致这10种状态之间发生转移的事件（ContainerEventType），ContainerImpl的作用是等待接收其他对象发出的ContainerEventType类型的事件，然后根据当前状态和事件类型，将当前状态转移到另外一种状态，同时触发另外一种行为（实际上执行一个函数，该函数可能会再次发出一种其他类型的事件）。下面具体进行介绍：

基本事件

（1） INIT_CONTAINER

NodeManager收到来自某个ApplicationMaster的启动container请求（通过RPC函数ContainerManager.startContainer()），则会触发一个INIT_CONTAINER事件，同时使container状态由初始状态NEW转换为LOCALIZING。

（2）RESOURCE_LOCALIZED

Container完成本地化工作（主要工作是从HDFS上下载各种文件，包括jar包，二进制文件和其他container执行过程中需用到的文件），会触发一个RESOURCE_LOCALIZED事件。

（3）CONTAINER_LAUNCHED

Container成功启动后，会触发一个CONTAINER_LAUNCHED事件，使得Container从LOCALIZED状态转换为CONTAINER_LAUNCHED状态。

（4） CONTAINER_EXITED_WITH_SUCCESS

Container正常退出（Container实际上是一个shell命令，正常结束运行后会返回0），会触发一个CONTAINER_EXITED_WITH_SUCCESS事件。

（5）CONTAINER_RESOURCES_CLEANEDUP

NodeManager清理完成Container使用的各种临时目录，此时会触发一个CONTAINER_RESOURCES_CLEANEDUP事件，使得Container从EXITED_WITH_SUCCESS状态转换为DONE状态。

（6）RESOURCE_FAILED

Container本地化过程中抛出异常，会触发一个RESOURCE_FAILED事件，导致Container失败。

（7）KILL_CONTAINER

在多种场景下会触发产生KILL_CONTAINER事件，包括：1）ResourceManager要求NodeManager杀死一个container  2）Container使用的内存量超过约定值，被监控线程杀死 3）ApplicationMaster要求NodeManager杀死一个container（通过RPC函数ContainerManager.stopContainer()） 4）Container正常运行结束（正如MRv1中Task结束后会收到KilledTaskAction一样，container结束也会收到KILL_CONTAINER）

（8）CONTAINER_EXITED_WITH_FAILURE

Container异常退出（运行过程中抛出Throwable异常）

（9）CONTAINER_KILLED_ON_REQUEST

Container运行过程中被强制杀死或者终止（返回码为137或者143）。

（10）UPDATE_DIAGNOSTICS_MSG

执行ContainerExecutor. launchContainer()过程中抛出IOException异常（ContainerExecutor有两种实现，默认是DefaultContainerExecutor，另一种是LinuxContainerExecutor）。

下图描述了以上各个事件的来源：