JobTracker的操作权限管理——QueueManager

    在JobTracker中，有这样的一个属性queueManager，它的类型是org.apache.hadoop.mapred.QueueManager，那么它被JobTracker用来干啥的呢？在上一篇博文中，我们已经大概知道了，JobTracker使用QueueManager来验证一个用户对Job是否具有某些操作权限，如提交等。所以在本文，我将集中讨论QueueManager类。

   先来看看QueueManager的类图：

简单的介绍一下这几个属性：

queueNames：存放jobs所属的queues的名字(通过配置文件中的mapred.queues.names配置)；

aclsMap：存放每一个queue每一个operation的ACLs；

aclsEnabed：是否开启ACL验证(通过配置文件中的mapred.acls.enabled配置)；

schedulerInfoObjects：存放job队列的调度信息；

     从这几个属性，我们可以清楚的看出JobTracker是按照queue来管理job的操作控制权限，调度Job的执行的。先来看看QueueManager是如何通过配置文件来初始化的：

private void initialize(Configuration conf) {
    aclsEnabled = conf.getBoolean("mapred.acls.enabled", false);
    String[] queues = conf.getStrings("mapred.queue.names", new String[] {JobConf.DEFAULT_QUEUE_NAME});
    addToSet(queueNames, queues);
    // for every queue, and every operation, get the ACL  if any is specified and store in aclsMap.
    for (String queue : queues) {
      for (QueueOperation oper : QueueOperation.values()) {
        String key = toFullPropertyName(queue, oper.getAclName());
        String aclString = conf.get(key, "*");
        aclsMap.put(key, new AccessControlList(aclString));
      }
    }
  }

这个初始化是很简单的，不如来看一个完整的配置例子吧！

从配置文中我们可以得知，Job的操作类型有两种类型：acl-submit-job和acl-administer-jobs，它们对应的对象是：

static enum QueueOperation{
    SUBMIT_JOB ("acl-submit-job", false),
    ADMINISTER_JOBS ("acl-administer-jobs", true);

    private final String aclName;
    private final boolean jobOwnerAllowed;
    
    QueueOperation(String aclName, boolean jobOwnerAllowed) {
      this.aclName = aclName;
      this.jobOwnerAllowed = jobOwnerAllowed;
    }
    final String getAclName() {
      return aclName;
    } 
    final boolean isJobOwnerAllowed() {
      return jobOwnerAllowed;
    }
  }

它们的ACL由用户和用户组组成，用户和用户组之间用空格区分，用户之间、用户组之间用逗号区分。同时ACL可以是一个*，它表示任何用户以及任何用户组都有这个操作权限。

      下面我们再来看看QueueManager是如何来对客户端进行Job的访问控制的，其实这个过程也很简单，直接看源码实现：

 public synchronized boolean hasAccess(String queueName, JobInProgress job,
                                QueueOperation oper,  UserGroupInformation ugi) {
    if (!aclsEnabled) {//是否关闭了ACL验证
      return true;
    }
    if (oper.isJobOwnerAllowed()) {
      if (job.getJobConf().getUser().equals(ugi.getUserName()))   return true;
    }
    AccessControlList acl = aclsMap.get(toFullPropertyName(queueName, oper.getAclName()));//获取对应的ACLS
    if (acl == null) {
      return false;
    }  
    // Check the ACL list
    boolean allowed = acl.allAllowed();
    if (!allowed) {
      if (acl.getUsers().contains(ugi.getUserName()))  allowed = true;
       else {
        Set<String> allowedGroups = acl.getGroups();//匹配用户名
        for (String group : ugi.getGroupNames()) {
          if (allowedGroups.contains(group)) {//匹配用户组
            allowed = true;
            break;
          }
        }
      }
    }
    
    return allowed;    
  }