Hadoop1.2.1源码解析系列:JT与TT之间的心跳通信机制——TT篇

原创 2013年12月03日 23:37:04

在Hadoop中JT(JobTracker)与TT(TaskTracker)之间的通信是通过心跳机制完成的。JT实现InterTrackerProtocol协议,该协议定义了JT与TT之间的通信机制——心跳。心跳机制实际上就是一个RPC请求,JT作为Server,而TT作为Client,TT通过RPC调用JT的heartbeat方法,将TT自身的一些状态信息发送给JT,同时JT通过返回值返回对TT的指令。

心跳有三个作用:

1)判断TT是否活着

2)报告TT的资源情况以及任务运行情况

3)为TT发送指令(如运行task,kill task等)

下面详细阅读下涉及到心跳调用的源码。

首先我们需要清楚,心跳机制是TT调用JT的方法,而非JT主动调用TT的方法。TT通过transmitHeartBeat方法调用JT的heartbeat方法。

1.TaskTracker.transmitHeartBeat:

// Send Counters in the status once every COUNTER_UPDATE_INTERVAL
    boolean sendCounters;
    if (now > (previousUpdate + COUNTER_UPDATE_INTERVAL)) {
      sendCounters = true;
      previousUpdate = now;
    }
    else {
      sendCounters = false;
    }
根据sendCounters的间隔判断此次心跳是否发送计算器信息。

2.TaskTracker.transmitHeartBeat:

1.TaskTracker.transmitHeartBeat:
// Check if the last heartbeat got through... 
    // if so then build the heartbeat information for the JobTracker;
    // else resend the previous status information.
    //
    if (status == null) {
      synchronized (this) {
        status = new TaskTrackerStatus(taskTrackerName, localHostname, 
                                       httpPort, 
                                       cloneAndResetRunningTaskStatuses(
                                         sendCounters), 
                                       taskFailures,
                                       localStorage.numFailures(),
                                       maxMapSlots,
                                       maxReduceSlots); 
      }
    } else {
      LOG.info("Resending 'status' to '" + jobTrackAddr.getHostName() +
               "' with reponseId '" + heartbeatResponseId);
    }
此处根据status变量是否为null,判断上次的心跳是否成功发送。tatus!=null,则表示上次的心跳尚未发送,所以直接将上次收集到的TT状态信息(封装在status中)发送给JT;相反,status==null,则表示上次心跳已完成,重新收集TT的状态信息,同样封装到status中。下面详细看下new TaskTrackerStatus()方法。注意此处有个cloneAndResetRunningTaskStatuses(sendCounters)方法:

private synchronized List<TaskStatus> cloneAndResetRunningTaskStatuses(
                                          boolean sendCounters) {
    List<TaskStatus> result = new ArrayList<TaskStatus>(runningTasks.size());
    for(TaskInProgress tip: runningTasks.values()) {
      TaskStatus status = tip.getStatus();
      status.setIncludeCounters(sendCounters);
      // send counters for finished or failed tasks and commit pending tasks
      if (status.getRunState() != TaskStatus.State.RUNNING) {
        status.setIncludeCounters(true);
      }
      result.add((TaskStatus)status.clone());
      status.clearStatus();
    }
    return result;
  }
该方法中涉及到runningTasks队列,该队列保存了该TT上接收的所有未完成的Task任务,通过runningTasks.values()可以获取TT当前所有未完成的Task,然后获取每个TaskInProgress的status信息,同时根据第一步判断出的sendCounters(true/false)决定是否发送counters信息(includeCounters),即是否将counters对象序列化到TaskStatus对象中,这里需要注意如果TaskInProgress不处于Running状态,则includeCounters设为true,即发送counters信息。

3.TaskTrackerStatus():

public TaskTrackerStatus(String trackerName, String host, 
                           int httpPort, List<TaskStatus> taskReports, 
                           int taskFailures, int dirFailures,
                           int maxMapTasks, int maxReduceTasks) {
    this.trackerName = trackerName;
    this.host = host;
    this.httpPort = httpPort;

    this.taskReports = new ArrayList<TaskStatus>(taskReports);
    this.taskFailures = taskFailures;
    this.dirFailures = dirFailures;
    this.maxMapTasks = maxMapTasks;
    this.maxReduceTasks = maxReduceTasks;
    this.resStatus = new ResourceStatus();
    this.healthStatus = new TaskTrackerHealthStatus();
  }
这里只是进行简单的变量复制操作,分析下其中一些参数的含义:

1)taskReports:包含该TT上目前所有的Task状态信息,其中的counters信息会根据之前判断sendCounters值进行决定是否发送,上一步有提到。

2)taskFailures:该TT上失败的Task总数(重启会清空),该参数帮助JT决定是否向该TT提交Task,因为失败数越多表明该TT可能出现Task失败的概率越大。

3)dirFailures:这个值是mapred.local.dir参数设置的目录中有多少是不可用的(以后会详细提到)

4)maxMapSlots/maxReduceSlots:这个值是TT可使用的最大map和reduce slot数量

初始化完成,继续回到TaskTracker.transmitHeartBeat方法。

4.TaskTracker.transmitHeartBeat:

 // Check if we should ask for a new Task
    //
    boolean askForNewTask;
    long localMinSpaceStart;
    synchronized (this) {
      askForNewTask = 
        ((status.countOccupiedMapSlots() < maxMapSlots || 
          status.countOccupiedReduceSlots() < maxReduceSlots) && 
         acceptNewTasks); 
      localMinSpaceStart = minSpaceStart;
    }
    if (askForNewTask) {
      askForNewTask = enoughFreeSpace(localMinSpaceStart);
      long freeDiskSpace = getFreeSpace();
      long totVmem = getTotalVirtualMemoryOnTT();
      long totPmem = getTotalPhysicalMemoryOnTT();
      long availableVmem = getAvailableVirtualMemoryOnTT();
      long availablePmem = getAvailablePhysicalMemoryOnTT();
      long cumuCpuTime = getCumulativeCpuTimeOnTT();
      long cpuFreq = getCpuFrequencyOnTT();
      int numCpu = getNumProcessorsOnTT();
      float cpuUsage = getCpuUsageOnTT();

      status.getResourceStatus().setAvailableSpace(freeDiskSpace);
      status.getResourceStatus().setTotalVirtualMemory(totVmem);
      status.getResourceStatus().setTotalPhysicalMemory(totPmem);
      status.getResourceStatus().setMapSlotMemorySizeOnTT(
          mapSlotMemorySizeOnTT);
      status.getResourceStatus().setReduceSlotMemorySizeOnTT(
          reduceSlotSizeMemoryOnTT);
      status.getResourceStatus().setAvailableVirtualMemory(availableVmem); 
      status.getResourceStatus().setAvailablePhysicalMemory(availablePmem);
      status.getResourceStatus().setCumulativeCpuTime(cumuCpuTime);
      status.getResourceStatus().setCpuFrequency(cpuFreq);
      status.getResourceStatus().setNumProcessors(numCpu);
      status.getResourceStatus().setCpuUsage(cpuUsage);
    }
从源码中的注释可以知道,此处是TT根据自身资源使用情况判断是否接收new task。

首先第一步status.countOccupiedMapSlots()获得该TT上已占用的map slot数量:

/**
   * Get the number of occupied map slots.
   * @return the number of occupied map slots
   */
  public int countOccupiedMapSlots() {
    int mapSlotsCount = 0;
    for (TaskStatus ts : taskReports) {
      if (ts.getIsMap() && isTaskRunning(ts)) {
        mapSlotsCount += ts.getNumSlots();
      }
    }
    return mapSlotsCount;
  }
方法内部是根据taskReports中的TaskStatus进行判断,这里计算的是map slot,所以会判断ts.getIsMap(),如果该task是map任务,且isTaskRunning()返回true,则获取该task所需的slot数量。isTaskRunning()方法内部判断逻辑是:该task处于RUNNING或者UNASSIGNED状态,或者处于CleanerUp阶段(这里可能是Task处于FAILED_UNCLEAN或者KILLED_UNCLEAN阶段)。这个方法会计算出TT当前已占用的map slot数量。同样的通过countOccupiedReduceSlots()方法计算出TT当前已占用的reduce slot数量。获取到occupied map/reduce slots后将其同maxMapSlots/maxReduceSlots进行比较,这里是“||”而非“&&”,表示只要有map slot或者有reduce slot就可以接收新任务,当然还需要满足acceptNewTasks==true的条件。acceptNewTasks会在其他地方根据TT可使用的空间进行合适的赋值。以上可以判断出是否可以接收新任务,即askForNewTask值。

localMinSpaceStart = minSpaceStart,minSpaceStart由mapred.local.dir.minspacestart参数决定,默认是0,即无限制,该值的意思应该是可接收新任务的localDirs最小的可用空间大小。接下来可以看到该值能够影响acceptNewTasks值。

当acceptNewTasks==true时,即初步判断可以接收新任务,会再次根据localMinSpaceStart判断是否可接收新任务。

/**
   * Check if any of the local directories has enough
   * free space  (more than minSpace)
   * 
   * If not, do not try to get a new task assigned 
   * @return
   * @throws IOException 
   */
  private boolean enoughFreeSpace(long minSpace) throws IOException {
    if (minSpace == 0) {
      return true;
    }
    return minSpace < getFreeSpace();
  }
private long getFreeSpace() throws IOException {
    long biggestSeenSoFar = 0;
    String[] localDirs = localStorage.getDirs();
    for (int i = 0; i < localDirs.length; i++) {
      DF df = null;
      if (localDirsDf.containsKey(localDirs[i])) {
        df = localDirsDf.get(localDirs[i]);
      } else {
        df = new DF(new File(localDirs[i]), fConf);
        localDirsDf.put(localDirs[i], df);
      }

      long availOnThisVol = df.getAvailable();
      if (availOnThisVol > biggestSeenSoFar) {
        biggestSeenSoFar = availOnThisVol;
      }
    }
    
    //Should ultimately hold back the space we expect running tasks to use but 
    //that estimate isn't currently being passed down to the TaskTrackers    
    return biggestSeenSoFar;
  }
判断方法是获取所有的lcoalDir,计算出这些目录中可用空间最大一个目录的可用大小,为什么使用最大值作为可用大小,而不是所有目录可用空间总和,是因为localDir存放task的一些本地信息,这些信息是不能夸目录存放的,所以必须确保有一个目录能够容纳下所有的信息。当计算出freeSpace后,根据比较localMinSpaceStart值与freeSpace的大小决定是否接收新任务。

接下来就是获取TT的一些资源信息,如总虚拟内存,总物理内存,可用的虚拟内存,可用的物理内存,CPU使用情况等。接着将这些值添加到status中去,发送给JT。

5.TaskTracker.transmitHeartBeat:

//add node health information
    
    TaskTrackerHealthStatus healthStatus = status.getHealthStatus();
    synchronized (this) {
      if (healthChecker != null) {
        healthChecker.setHealthStatus(healthStatus);
      } else {
        healthStatus.setNodeHealthy(true);
        healthStatus.setLastReported(0L);
        healthStatus.setHealthReport("");
      }
    }
此处是检查TT的健康状况。

6.TaskTracker.transmitHeartBeat:

    //
    // Xmit the heartbeat
    //
    HeartbeatResponse heartbeatResponse = jobClient.heartbeat(status, 
                                                              justStarted,
                                                              justInited,
                                                              askForNewTask, 
                                                              heartbeatResponseId);
此处通过RPC调用JT的heartbeat()方法。传的参数包括:status——TT自身的状态信息;justStarted——表示TT是否刚启动;justInited——表示TT是否刚初始化;askForNewTask——表示是否接收新任务;heartbeatResponseId——上次心跳返回的responseId。方法的返回值是一个HeartbeatResponse对象,具体JT内的heartbeat()方法如何处理以及HeartbeatResponse内容会另外分析。继续往下走。

7.TaskTracker.transmitHeartBeat:

//
    // The heartbeat got through successfully!
    //
    heartbeatResponseId = heartbeatResponse.getResponseId();
      
    synchronized (this) {
      for (TaskStatus taskStatus : status.getTaskReports()) {
        if (taskStatus.getRunState() != TaskStatus.State.RUNNING &&
            taskStatus.getRunState() != TaskStatus.State.UNASSIGNED &&
            taskStatus.getRunState() != TaskStatus.State.COMMIT_PENDING &&
            !taskStatus.inTaskCleanupPhase()) {
          if (taskStatus.getIsMap()) {
            mapTotal--;
          } else {
            reduceTotal--;
          }
          myInstrumentation.completeTask(taskStatus.getTaskID());
          runningTasks.remove(taskStatus.getTaskID());
        }
      }
      
      // Clear transient status information which should only
      // be sent once to the JobTracker
      for (TaskInProgress tip: runningTasks.values()) {
        tip.getStatus().clearStatus();
      }
    }

    // Force a rebuild of 'status' on the next iteration
    status = null;                                

    return heartbeatResponse;
首先从HeartbeatResponse返回值中获取heartbeatResponseId。接下来对TT中的每个TaskInProgress的status信息进行判断,如果一个task处于SUCCEEDED/FAILED/KILLED状态,则表示该task已完成(不论是失败还是成功,亦或是被kill掉),如果该task是一个map任务,则mapTotal减一,该task是一个reduce任务,则reduceTotal减一,mapTotal/reduceTotal记录当前TT所有处于运行状态(非SUCCEEDED/FAILED/KILLED状态)的task数量。

myInstrumentation.completeTask(taskStatus.getTaskID())此处将该TT所有完成任务数加一,runningTasks.remove(taskStatus.getTaskID())则是将该task从runningTasks队列中移除,所以可以知道runningTasks中只包含未完成的task信息。

接下来是清除TaskInProgress的TaskStatus的临时信息(diagnosticInfo),从clearStatus()方法的注释可以看出diagnosticInfo信息只是在Task向TaskTracker,或者TaskTracker向JobTracker发送一个状态更新信息时的临时诊断信息,所以在发送完成之后需要清除。

到这里整个TaskTracker发送心跳信息的过程就完成了,方法返回值是HeartbeatResponse对象,即心跳的返回值。

版权声明:本文为博主原创文章,转载请注明出处,谢谢。

相关文章推荐

Hadoop1.2.1源码解析系列:JT与TT之间的心跳通信机制——命令篇

简单介绍Hadoop心跳机制中JT对TT下达的五种命令:ReinitTrackerAction,KillTaskAction,KillJobAction,CommitTaskAction,Launch...

Hadoop1.2.1源码解析系列:JT与TT之间的心跳通信机制——JT篇

上一篇浅析了Hadoop心跳机制的TT(TaskTracker)方面,这一篇浅析下JT(JobTracker)方面。 我们知道心跳是TT通过RPC请求调用JT的heartbeat()方法的,TT在调用...

Hadoop1.2.1源码解析系列:JT与TT之间的心跳通信机制——TT篇

在Hadoop中JT(JobTracker)与TT(TaskTracker)之间的通信是通过心跳机制完成的。JT实现InterTrackerProtocol协议,该协议定义了JT与TT之间的通信机制—...

TT日程管理V2.0开发系列1——经验分享

# TT日程管理V2.0开发系列1——经验分享 - [TT日程管理V2.0开发系列2](http://www.hizhaohui.cn/archives/555) - [TT日程管理V2.0开发系列...

hadoop心跳机制源码解析

1. hadoop集群是master/slave模式,master包括Namenode和Jobtracker,slave包括Datanode和Tasktracker。 2. master启动的时...
  • jsy625
  • jsy625
  • 2014年12月30日 21:19
  • 305

AS和JS在Maxthon、TT等浏览器无法通信的问题

出自:http://popotang.com/blog/as-js-maxthon-bug.html 某flash文件嵌入在网页上,提供了一些针对JS的接口以方便JS调用,这些接口是通过flas...

Hadoop心跳机制源码分析

原文地址:http://weixiaolu.iteye.com/blog/1544860 正文: 一.体系背景 首先和大家说明一下:hadoop的心跳机制的底层是通过RPC机制实现的...
  • xxjin
  • xxjin
  • 2013年10月11日 17:13
  • 715

笔试真题解析 TT 研发工程师笔试卷

1. 已知一棵二叉树,如果先序遍历的节点顺序是:ADCEFGHB,中序遍历是:CDFEGHAB,则后序遍历结果为:() CFHGEBDA CDFEGHBA FGHCDEBA CFHGEDBA 【解析】...

SQLiteDatabase类——转载(http://www.cnblogs.com/tt_mc/archive/2010/03/09/1681540.html)

SQLiteDatabase类实现数据库基本操作 数据库创建的问题解决了,接下来就该使用数据库实现应用程序功能的时候了。基本的操作包括创建、读取、更新、删除,即我们通常说的CRUD(C...

论人不地道,我只佩服TT——北漂18年(68)

在北漂18年第67期里提过“古今中外,论世间能装的我只佩服马云(这货说他最后悔的事就是创立了阿里巴巴),论人不地道,我只佩服TT。”...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:Hadoop1.2.1源码解析系列:JT与TT之间的心跳通信机制——TT篇
举报原因:
原因补充:

(最多只允许输入30个字)