Flink 1.13 源码解析——TaskManager启动流程概览

​​​​​​点击这里查看 Flink 1.13 源码解析 目录汇总

上一章:Flink 1.13 源码解析——TaskManager启动流程 之 初始化TaskExecutor

下一章:Flink 1.13 源码解析——TaskManager启动流程 之 与ResourceManager的注册交互

目录

前言

TaskExecutor启动流程:


前言

在上一章中我们介绍了TaskManager在初始化阶段所做的工作,主要有一下内容:

1、首先构建了一个TaskManagerRunner,用于完成TaskManager启动的准备工作,再完成准备工作后,通过调用TaskManagerRunner的start方法来启动。

2、在TaskManagerRunner内部初始化了一个TaskManagerService对象,用来初始化TaskExecutor所需要的基础服务。

3、在TaskManagerService内部,首先会初始化一些基础服务,如TaskEvent Dispatcher、IO管理器、shuffleEnvironment、state管理器、TaskSlotTable等等。

4、在完成基础服务的初始化之后,开始初始化TaskExecutor,首先初始化了两个心跳管理期,分别来维护和JobMaster、ResourceManager的心跳。因为TaskExecutor继承了RpcEndpoint,所以具有生命周期方法onStart。

5、TaskExecutor初始化完成。
————————————————
版权声明:本文为CSDN博主「EdwardsWang丶」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/EdwardWong_/article/details/126569713

由于TaskExecutor的启动流程较为复杂,所做的工作比较多,我们分几章来讲述,本章首先来概述一下TaskExecutor的启动流程,启动中的一些工作的完成流程我们将在后续几章展开讲述。

TaskExecutor启动流程:

        在上一章中我们分析了TaskExecutor的初始化过程,在最后我们分析了TaskExecutor继承自RpcEndpoint,所有在初始化完成后会调用自身的生命周期方法onStart,我们首先来看这个TaskExecutor.onStart()方法:

// ------------------------------------------------------------------------
    //  Life cycle
    // ------------------------------------------------------------------------

    @Override
    public void onStart() throws Exception {
        try {
            // TODO 启动从节点相关服务,会进行相关服务的注册
            startTaskExecutorServices();
        } catch (Throwable t) {
            final TaskManagerException exception =
                    new TaskManagerException(
                            String.format("Could not start the TaskExecutor %s", getAddress()), t);
            onFatalError(exception);
            throw exception;
        }

        // TODO 开启了一个注册超时服务,如果上面的服务注册成功,则会回调stopRegistrationTimeout
        startRegistrationTimeout();
    }

在这个方法里做了两件事:

1、启动从节点的相关服务,并进行注册。

2、开启注册超时服务。

我们首先来看这个注册超时服务:

 private void startRegistrationTimeout() {
        final Time maxRegistrationDuration = taskManagerConfiguration.getMaxRegistrationDuration();

        if (maxRegistrationDuration != null) {
            final UUID newRegistrationTimeoutId = UUID.randomUUID();
            currentRegistrationTimeoutId = newRegistrationTimeoutId;
            // TODO 提交了一个异步定时任务,如果在时间到达时没有取消,则会执行该任务
            scheduleRunAsync(
                    () -> registrationTimeout(newRegistrationTimeoutId), maxRegistrationDuration);
        }
    }

        在这个注册超时服务里面,提交了一个异步的定时任务,或者可以理解为一个倒计时任务,如果注册成功,则会执行一个名为stopRegistrationTimeout的方法来取消这个定时任务,如果在规定时间内还没有注册成功,则会这行这个超时方法,方法向外抛出Fatal级别的异常。:

 private void registrationTimeout(@Nonnull UUID registrationTimeoutId) {
        if (registrationTimeoutId.equals(currentRegistrationTimeoutId)) {
            final Time maxRegistrationDuration =
                    taskManagerConfiguration.getMaxRegistrationDuration();

            // TODO 注册超时则 报错:致命错误
            onFatalError(
                    new RegistrationTimeoutException(
                            String.format(
                                    "Could not register at the ResourceManager within the specified maximum "
                                            + "registration duration %s. This indicates a problem with this instance. Terminating now.",
                                    maxRegistrationDuration)));
        }
    }

看完这个延时注册超时方法,我们继续来看onStart中的startTaskExecutorServices()方法:

    private void startTaskExecutorServices() throws Exception {
        try {
            // start by connecting to the ResourceManager
            // TODO 监控ResourceManager
            /*
            TODO
            1.从代码的字面意思能够得知,这就是为了获取ResourceManager的地址,同时添加监听
            2.获取到ResourceManager的地址之后,当前启动的TaskExecutor就可以注册了
            3. 注册之后会收到注册相应(成功: ,失败则直接关闭JVM)
            4. 如果注册成功则:
                维持和ResourceManager之间的心跳
                做slot资源汇报
             */
            resourceManagerLeaderRetriever.start(new ResourceManagerLeaderListener());

            // tell the task slot table who's responsible for the task slot actions
            // TODO 启动taskSlotTable
            taskSlotTable.start(new SlotActionsImpl(), getMainThreadExecutor());

            // start the job leader service
            // TODO 监控JobMaster
            jobLeaderService.start(
                    getAddress(), getRpcService(), haServices, new JobLeaderListenerImpl());

            // TODO 文件缓存服务
            fileCache =
                    new FileCache(
                            taskManagerConfiguration.getTmpDirectories(),
                            blobCacheService.getPermanentBlobService());
        } catch (Exception e) {
            handleStartTaskExecutorServicesException(e);
        }
    }

在这个方法里,启动了一些TaskExecutor的核心组件:

1、启动对ResourceManager的监控服务

2、启动taskSlotTable服务

3、启动对JobMaster的监控服务

4、启动文件缓存服务

在完成以上四个工作以后,taskManager就启动完成了,在启动过程中涉及到了向ResourceManager的注册、资源的汇报、向JobMaster的注册、ResourceManager和JobMaster和TaskExecutor之间的心跳交互等等工作,我们在后续章节里来给大家分析,在下一章,我们首先来分析ResourceManagerManager的监控服务。

以下是针对于上面四个工作的详细分析:

下一章:Flink 1.13 源码解析——TaskManager启动流程 之 与ResourceManager的注册交互

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

EdwardsWang丶

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值