taobao-pamirs-schedule-2.0源码分析——任务处理器源码分析

TBScheduleProcessorSleep分析

基本介绍

sleep模式:

当某一个线程任务处理完毕,从任务池中取不到任务的时候,检查其它线程是否处于活动状态。如果是,则自己休眠; 如果其它线程都已经因为没有任务进入休眠,当前线程是最后一个活动线程的时候,就调用业务接口,获取需要处理的任务,放入任务池中, 同时唤醒其它休眠线程开始工作。


流程图


源码分析

调度管理的resume方法是程序入口,我们来看看。


/**
	 * 处在了可执行的时间区间,恢复运行
	 * @throws Exception 
	 */
	public void resume(String message) throws Exception{
		if (this.isPauseSchedule == true) {
			if(log.isDebugEnabled()){
				log.debug("恢复调度:" + this.currenScheduleServer.getUuid());
			}
			this.isPauseSchedule = false;
			this.pauseMessage = message;
			if (this.queueDealTask != null) {
				if (this.taskTypeInfo.getProcessorType() != null &&
					this.taskTypeInfo.getProcessorType().equalsIgnoreCase("NOTSLEEP")==true){
					this.taskTypeInfo.setProcessorType("NOTSLEEP");
					this.processor = new TBScheduleProcessorNotSleep(this,
							queueDealTask,this.statisticsInfo);
				}else{
					this.processor = new TBScheduleProcessorSleep(this,
							queueDealTask,this.statisticsInfo);
					this.taskTypeInfo.setProcessorType("SLEEP");
				}
			}
			rewriteScheduleInfo();
		}
	}



从代码可以看出当调度管理器恢复调度的时候,会根据任务类型中配置的处理器类型来构造对应的处理器对象,即睡眠和不睡眠两种处理器对象实现类。当属性this.processor之前是有值的,则之前的处理器对象会成为无引用的对象,当该processor中的线程已经执行完毕后,则原来旧的processor就可以被销毁。若管理器频繁的停止和恢复调度,则可能出现代码过大的问题。


我们进入类TBScheduleProcessorSleep的构造函数看看,它做了些什么。


public TBScheduleProcessorSleep(TBScheduleManager aManager,
			IScheduleTaskDeal<T> aQueueTask,	StatisticsInfo aStatisticsInfo) throws Exception {
		this.scheduleManager = aManager;
		this.statisticsInfo = aStatisticsInfo;
		this.taskTypeInfo = this.scheduleManager.getTaskTypeInfo();
		this.taskDealProcessor = aQueueTask;
		if (this.taskDealProcessor instanceof IScheduleTaskDealSingle<?>) {
			if (taskTypeInfo.getExecuteNumber() > 1) {
				taskTypeInfo.setExecuteNumber(1);
			}
			isMutilTask = false;
		} else {
			isMutilTask = true;
		}
		if (taskTypeInfo.getFetchDataNumber() < taskTypeInfo.getThreadNumber() * 10) {
			logger.warn("参数设置不合理,系统性能不佳。【每次从数据库获取的数量fetchnum】 >= 【线程数量threadnum】 *【最少循环次数10】 ");
		}
		for (int i = 0; i < taskTypeInfo.getThreadNumber(); i++) {
			this.startThread(i);
		}
	}



构造函数主要是使用参数中的值对属性中的一些值进行初始化。检查属性配置值中的不合理配置会报警。


最后根据任务类中的ThreadNumber值来启动对应数目的线程数。


private void startThread(int index) {
		Thread thread = new Thread(this);
		threadList.add(thread);
		String threadName = this.scheduleManager.getTaskTypeRunningInfo().getTaskType()+"-" 
				+ this.scheduleManager.getCurrentSerialNumber() + "-exe"
				+ index;
		thread.setName(threadName);
		thread.start();
	}

创建一个线程,并且启动该线程,传递的Runnable对象就是本对象,则我们看看本对象中的run()方法就是线程要运行的方法。



@SuppressWarnings({ "rawtypes", "unchecked", "static-access" })
	public void run(){
	      try {
	        long startTime =0;
	        while(true){
	          this.m_lockObject.addThread();
	          Object executeTask;
	          while (true) {
	            if(this.isStopSchedule == true){//停止队列调度
	              this.m_lockObject.realseThread();
	              this.m_lockObject.notifyOtherThread();//通知所有的休眠线程
				  this.threadList.remove(Thread.currentThread());
				  if(this.threadList.size()==0){
						this.scheduleManager.unRegisterScheduleServer();
				  }
				  return;
	            }
	            
	            //加载调度任务
	            if(this.isMutilTask == false){
	              executeTask = this.getScheduleTaskId();
	            }else{
	              executeTask = this.getScheduleTaskIdMulti();
	            }
	            
	            if(executeTask == null){
	              break;
	            }
	            
	            try {//运行相关的程序
	              startTime =ScheduleUtil.getCurrentTimeMillis();
	              if (this.isMutilTask == false) {
						if (((IScheduleTaskDealSingle) this.taskDealProcessor).execute(executeTask,scheduleManager.getTaskTypeRunningInfo().getOwnSign()) == true) {
							addSuccessNum(1, ScheduleUtil.getCurrentTimeMillis()
									- startTime,
									"com.taobao.pamirs.schedule.TBScheduleProcessorSleep.run");
						} else {
							addFailNum(1, ScheduleUtil.getCurrentTimeMillis()
									- startTime,
									"com.taobao.pamirs.schedule.TBScheduleProcessorSleep.run");
						}
					} else {
						if (((IScheduleTaskDealMulti) this.taskDealProcessor)
								.execute((Object[]) executeTask,scheduleManager.getTaskTypeRunningInfo().getOwnSign()) == true) {
							addSuccessNum(((Object[]) executeTask).length, ScheduleUtil
									.getCurrentTimeMillis()
									- startTime,
									"com.taobao.pamirs.schedule.TBScheduleProcessorSleep.run");
						} else {
							addFailNum(((Object[]) executeTask).length, ScheduleUtil
									.getCurrentTimeMillis()
									- startTime,
									"com.taobao.pamirs.schedule.TBScheduleProcessorSleep.run");
						}
					} 
	            }catch (Throwable ex) {
					if (this.isMutilTask == false) {
						addFailNum(1, ScheduleUtil.getCurrentTimeMillis() - startTime,
								"TBScheduleProcessor.run");
					} else {
						addFailNum(((Object[]) executeTask).length, ScheduleUtil
								.getCurrentTimeMillis()
								- startTime,
								"TBScheduleProcessor.run");
					}
					logger.warn("Task :" + executeTask + " 处理失败", ex);				
	            }
	          }
	          //当前队列中所有的任务都已经完成了。
	            if(logger.isTraceEnabled()){
				   logger.trace(Thread.currentThread().getName() +":当前运行线程数量:" +this.m_lockObject.count());
			    }
				if (this.m_lockObject.realseThreadButNotLast() == false) {
					int size = 0;
					Thread.currentThread().sleep(100);
					startTime = ScheduleUtil.getCurrentTimeMillis();
					// 装载数据
					size = this.loadScheduleData();
					if (size > 0) {
						this.m_lockObject.notifyOtherThread();
					} else {
						//判断当没有数据的是否,是否需要退出调度
						if (this.isStopSchedule == false && this.scheduleManager.isContinueWhenData()== true ){						 
							if(logger.isTraceEnabled()){
								   logger.trace("没有装载到数据,start sleep");
							}
							this.isSleeping = true;
						    Thread.currentThread().sleep(this.scheduleManager.getTaskTypeInfo().getSleepTimeNoData());
						    this.isSleeping = false;
						    
						    if(logger.isTraceEnabled()){
								   logger.trace("Sleep end");
							}
						}else{
							//没有数据,退出调度,唤醒所有沉睡线程
							this.m_lockObject.notifyOtherThread();
						}
					}
					this.m_lockObject.realseThread();
				} else {// 将当前线程放置到等待队列中。直到有线程装载到了新的任务数据
					if(logger.isTraceEnabled()){
						   logger.trace("不是最后一个线程,sleep");
					}
					this.m_lockObject.waitCurrentThread();
				}
	        }
	      }
	      catch (Throwable e) {
	    	  logger.error(e.getMessage(), e);
	      }
	    }



该方法详细的流程描述参考流程图,我们分析代码中比较关键的实现点。


该方法有两重while(true)循环。

1.跳出循环的点一个是当接受到停止调度的指令的时候,会跳出整个run方法。

2.若线程没有加在到执行任务,则会中断内层while(true)循环。若不是最后一个线程,则线程会处于等待状态。使用的是Object.wait()方法。等待其它线程唤醒。

3.若是最后一个线程,则不会进入等待状态,而是执行方法loadScheduleData加载新的任务。如果加载到任务则唤醒其它线程开始工作。调用Object.notifyAll()方法唤醒其它线程。

如果没有加载到数据,则自己也会睡眠一个周期,等待数据准备好。

加载任务的两个方法的源码分别如下。


public synchronized Object getScheduleTaskId() {
		     if (this.taskList.size() > 0)
		    	 return this.taskList.remove(0);  // 按正序处理
		     return null;
		   }

		   public synchronized Object[] getScheduleTaskIdMulti() {
		       if (this.taskList.size() == 0){
		         return null;
		       }
		       int size = taskList.size() > taskTypeInfo.getExecuteNumber() ? taskTypeInfo.getExecuteNumber()
						: taskList.size();
		       Object[] result = new Object[size];
		       for(int i=0;i<size;i++){
		      	 result[i] = this.taskList.remove(0);  // 按正序处理
		       }
		       return result;
		   }



可以看到每个方法都添加了关键字 synchronized,它的意义是控制多线程并发的不安全问题。



TBScheduleProcessorNotSleep分析

基本介绍

Not sleep模式:

当一个线程任务处理完毕,从任务池中取不到任务的时候,立即调用业务接口获取需要处理的任务,放入任务池中。

流程图

源码分析

构造对象TBScheduleProcessorNotSleep的方法与睡眠处理器实现类似,不再列出代码。

初始化和创建线程、启动线程的代码也是类似的,我们就不再细看,我们只看不一样的地方是run()方法。


/**
	 * 运行函数
	 */
	@SuppressWarnings("unchecked")
	public void run() {
		long startTime = 0;
		long sequence = 0;
		Object executeTask = null;	
		while (true) {
			try {
				if (this.isStopSchedule == true) { // 停止队列调度
					this.threadList.remove(Thread.currentThread());///threadList中的线程是在startThread中添加的,new完线程后启动之前加入
					if(this.threadList.size()==0){
						this.scheduleManager.unRegisterScheduleServer();
					}
					return;
				}
				// 加载调度任务
				if (this.isMutilTask == false) {
					///从上次selectTask的结果中取数据,装任务的taskList是线程安全的,且取的同时删掉,于是同一个实例内部的线程不会取到相同数据.
					executeTask = this.getScheduleTaskId();
				} else {
					executeTask = this.getScheduleTaskIdMulti();
				}
				///如果已加载数据处理完,则再加载.NoSleep类型任务的特点
				if (executeTask == null ) {
					this.loadScheduleData();
					continue;
				}
				
				try { // 运行相关的程序
					this.runningTaskList.add(executeTask);
					startTime = ScheduleUtil.getCurrentTimeMillis();
					sequence = sequence + 1;///没用上
					if (this.isMutilTask == false) {
						if (((IScheduleTaskDealSingle<Object>) this.taskDealProcessor).execute(executeTask,scheduleManager.getTaskTypeRunningInfo().getOwnSign()) == true) {
							addSuccessNum(1, ScheduleUtil.getCurrentTimeMillis()
									- startTime,
									"com.taobao.pamirs.schedule.TBScheduleProcessorNotSleep.run");
						} else {
							addFailNum(1, ScheduleUtil.getCurrentTimeMillis()
									- startTime,
									"com.taobao.pamirs.schedule.TBScheduleProcessorNotSleep.run");
						}
					} else {
						if (((IScheduleTaskDealMulti<Object>) this.taskDealProcessor)
								.execute((Object[]) executeTask,scheduleManager.getTaskTypeRunningInfo().getOwnSign()) == true) {
							addSuccessNum(((Object[]) executeTask).length, ScheduleUtil
									.getCurrentTimeMillis()
									- startTime,
									"com.taobao.pamirs.schedule.TBScheduleProcessorNotSleep.run");
						} else {
							addFailNum(((Object[]) executeTask).length, ScheduleUtil
									.getCurrentTimeMillis()
									- startTime,
									"com.taobao.pamirs.schedule.TBScheduleProcessorNotSleep.run");
						}
					}
				} catch (Throwable ex) {
					if (this.isMutilTask == false) {
						addFailNum(1, ScheduleUtil.getCurrentTimeMillis() - startTime,
								"TBScheduleProcessor.run");
					} else {
						addFailNum(((Object[]) executeTask).length, ScheduleUtil
								.getCurrentTimeMillis()
								- startTime,
								"TBScheduleProcessor.run");
					}
					logger.error("Task :" + executeTask + " 处理失败", ex);
				} finally {
					this.runningTaskList.remove(executeTask);
				}
			} catch (Throwable e) {
				throw new RuntimeException(e);
				//log.error(e.getMessage(), e);
			}
		}
	}



该部分代码的区别是当从内存中未加载到执行任务的时候,会直接调用 loadScheduleData()方法去获取新的任务,这个时候就有可能新读取到的任务与其它线程正在运行的任务存在重复,因此为了解决该问题,则需要在内存中进行排重,避免执行相同任务。


/**
	 * 获取单个任务,注意lock是必须,
	 * 否则在maybeRepeatTaskList的数据处理上会出现冲突
	 * @return
	 */
	public T getScheduleTaskId() {
		lockFetchID.lock();
		try {
			T result = null;
			while (true) {
				if (this.taskList.size() > 0) {
					result = this.taskList.remove(0); // 按正序处理
				} else {
					return null;
				}
				if (this.isDealing(result) == false) {///检查是不是在maybeRepeatTaskList里面的,这句话在sleep方式里面没有,因此任务的比较器只有在NotSleep模式下需要用到
					return result;
				}
			}
		} finally {
			lockFetchID.unlock();
		}
	}



可以看到在返回任务的时候,会调用 this.isDealing(result)判断该任务是否正在执行,若在执行,则会循环获取下一个任务,直到获取到一个不重复的任务为止。
另外我们看到为了避免线程访问共享数据的不安全问题,使用了
lockFetchID .lock() lockFetchID .unlock()的加、解锁来控制多线程同时运行。使用lockFetchID锁定的是这个对象,在这里定义多个对象就能降低锁粒度,提升并发性能,而相对于Sleep模式中通过synchronized来控制并发(锁定的是整个处理器对象,粒度更大)。


@SuppressWarnings("unchecked")
	protected boolean isDealing(T aTask) {
		if (this.maybeRepeatTaskList.size() == 0) {
			return false;
		}
		T[] tmpList = (T[]) this.maybeRepeatTaskList.toArray();
		for (int i = 0; i < tmpList.length; i++) {
			if(this.taskComparator.compare(aTask, tmpList[i]) == 0){///在自己定义的任务类中定义getComparator就是干这个用的
				this.maybeRepeatTaskList.remove(tmpList[i]);
				return true;
			}
		}
		return false;
	}




判断任务是否在处理中的方法,是直接与maybeRepeatTaskList集合中的对象进行对比,并且调用taskComparator这个实现的方法进行对比,因此该接口的正确性,直接影响着去重的效果。

两种模式区别

  • Sleep模式在实现逻辑上相对简单清晰,但存在一个大任务处理时间长,导致其它线程不工作的情况。
  • 在NotSleep模式下,减少了线程休眠的时间,避免大任务阻塞的情况,但为了避免数据被重复处理,增加了CPU在数据比较上的开销。 同时要求业务接口实现对象的比较接口。
  • 如果对任务处理不允许停顿的情况下建议用NotSleep模式,其它情况建议用sleep模式。




转载于:https://my.oschina.net/ywbrj042/blog/635268

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值