java并发编程的艺术笔记第十章--Executor框架

Executor框架简介

Executor框架的两级调度模型

在上层,Java多线程程序通常把应用分解为若干个任务,然后使用用户级的调度器(Executor框架)将这些任务映射为固定数量的线程;在底层,操作系统内核将这些线程映射到硬件处理器上。底层的调度不受应用程序的控制

Executor框架的结构与成员

1.Executor框架的结构

Executor框架主要由3大部分组成如下。

  • ·任务。包括被执行任务需要实现的接口:Runnable接口或Callable接口。
  • ·任务的执行。包括任务执行机制的核心接口Executor,以及继承自Executor的ExecutorService接口。Executor框架有两个关键类实现了ExecutorService接口(ThreadPoolExecutor和ScheduledThreadPoolExecutor)。
  • ·异步计算的结果。包括接口Future和实现Future接口的FutureTask类。
主要类和接口简介
  • ·Executor是一个接口,它是Executor框架的基础,它将任务的提交与任务的执行分离开来。
  • ·ThreadPoolExecutor是线程池的核心实现类,用来执行被提交的任务。
  • ·ScheduledThreadPoolExecutor是一个实现类,可以在给定的延迟后运行命令,或者定期执行命令。ScheduledThreadPoolExecutor比Timer更灵活,功能更强大。
  • ·Future接口和实现Future接口的FutureTask类,代表异步计算的结果。
  • ·Runnable接口和Callable接口的实现类,都可以被ThreadPoolExecutor或Scheduled-ThreadPoolExecutor执行。
使用流程
  1. 主线程首先要创建实现Runnable或者Callable接口的任务对象。工具类Executors可以把一个Runnable对象封装为一个Callable对象(Executors.callable(Runnable task)或Executors.callable(Runnable task,Object resule))。
  2. 然后可以把Runnable对象直接交给ExecutorService执行(ExecutorService.execute(Runnable command));或者也可以把Runnable对象或Callable对象提交给ExecutorService执行(Executor-Service.submit(Runnable task)或ExecutorService.submit(Callabletask))。
  3. 如果执行ExecutorService.submit(…),ExecutorService将返回一个实现Future接口的对象(到目前为止的JDK中,返回的是FutureTask对象)。由于FutureTask实现了Runnable,程序员也可以创建FutureTask,然后直接交给ExecutorService执行。
  4. 最后,主线程可以执行FutureTask.get()方法来等待任务执行完成。主线程也可以执行FutureTask.cancel(boolean mayInterruptIfRunning)来取消此任务的执行

2.Executor框架的成员

(1)ThreadPoolExecutor

ThreadPoolExecutor通常使用工厂类Executors来创建。Executors可以创建3种类型的ThreadPoolExecutor:SingleThreadExecutor、FixedThreadPool和CachedThreadPool。

1)FixedThreadPool。

FixedThreadPool适用于为了满足资源管理的需求,而需要限制当前线程数量的应用场景,它适用于负载比较重的服务器。

2)SingleThreadExecutor。

SingleThreadExecutor适用于需要保证顺序地执行各个任务;并且在任意时间点,不会有多个线程是活动的应用场景。

3)CachedThreadPool。

CachedThreadPool是大小无界的线程池,适用于执行很多的短期异步任务的小程序,或者是负载较轻的服务器。

(2)ScheduledThreadPoolExecutor

ScheduledThreadPoolExecutor通常使用工厂类Executors来创建。Executors可以创建2种类型的ScheduledThreadPoolExecutor,如下。

·ScheduledThreadPoolExecutor。包含若干个线程的ScheduledThreadPoolExecutor。

ScheduledThreadPoolExecutor适用于需要多个后台线程执行周期任务,同时为了满足资源管理的需求而需要限制后台线程的数量的应用场景。

·SingleThreadScheduledExecutor。只包含一个线程的ScheduledThreadPoolExecutor。

SingleThreadScheduledExecutor适用于需要单个后台线程执行周期任务,同时需要保证顺序地执行各个任务的应用场景。

(3)Future接口

Future接口和实现Future接口的FutureTask类用来表示异步计算的结果。

(4)Runnable接口和Callable接口

Runnable接口和Callable接口的实现类,都可以被ThreadPoolExecutor或Scheduled-ThreadPoolExecutor执行。它们之间的区别是Runnable不会返回结果,而Callable可以返回结果

除了可以自己创建实现Callable接口的对象外,还可以使用工厂类Executors来把一个Runnable包装成一个Callable。

ThreadPoolExecutor详解

Executor框架最核心的类是ThreadPoolExecutor,它是线程池的实现类

  • ·corePool:核心线程池的大小。
  • ·maximumPool:最大线程池的大小。
  • ·BlockingQueue:用来暂时保存任务的工作队列。
  • ·RejectedExecutionHandler:当ThreadPoolExecutor已经关闭或ThreadPoolExecutor已经饱和时(达到了最大线程池大小且工作队列已满),execute()方法将要调用的Handler。

通过Executor框架的工具类Executors,可以创建3种类型的ThreadPoolExecutor。FixedThreadPool/SingleThreadExecutor/CachedThreadPool

FixedThreadPool详解

FixedThreadPool被称为可重用固定线程数的线程池

public static ExecutorService newFixedThreadPool(int nThreads) {
    return new ThreadPoolExecutor(nThreads, nThreads,0L, TimeUnit.MILLISECONDS,
                                new LinkedBlockingQueue<Runnable>());
}

FixedThreadPool使用无界队列LinkedBlockingQueue作为线程池的工作队列(队列的容量为Integer.MAX_VALUE)。使用无界队列作为工作队列会对线程池带来如下影响。

  1. 当线程池中的线程数达到corePoolSize后,新任务将在无界队列中等待,因此线程池中的线程数不会超过corePoolSize。
  2. 由于1,使用无界队列时maximumPoolSize将是一个无效参数。
  3. 由于1和2,使用无界队列时keepAliveTime将是一个无效参数。
  4. 由于使用无界队列,运行中的FixedThreadPool(未执行方法shutdown()或shutdownNow())不会拒绝任务(不会调用RejectedExecutionHandler.rejectedExecution方法)。

SingleThreadExecutor详解

SingleThreadExecutor是使用单个worker线程的Executor。

public static ExecutorService newSingleThreadExecutor() {
    return new FinalizableDelegatedExecutorService(new ThreadPoolExecutor(1, 1,
                0L, TimeUnit.MILLISECONDS,new LinkedBlockingQueue<Runnable>()));
}

SingleThreadExecutor的corePoolSize和maximumPoolSize被设置为1。其他参数与FixedThreadPool相同。

CachedThreadPool详解

CachedThreadPool是一个会根据需要创建新线程的线程池

public static ExecutorService newCachedThreadPool() {
        return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
                        60L, TimeUnit.SECONDS,new SynchronousQueue<Runnable>());
}
  • CachedThreadPool的corePoolSize被设置为0,即corePool为空;
  • maximumPoolSize被设置为Integer.MAX_VALUE,即maximumPool是无界的。
  • 这里把keepAliveTime设置为60L,意味着CachedThreadPool中的空闲线程等待新任务的最长时间为60秒,空闲线程超过60秒后将会被终止。

CachedThreadPool使用没有容量的SynchronousQueue作为线程池的工作队列,但CachedThreadPool的maximumPool是无界的。这意味着,如果主线程提交任务的速度高于maximumPool中线程处理任务的速度时,CachedThreadPool会不断创建新线程。极端情况下,CachedThreadPool会因为创建过多线程而耗尽CPU和内存资源。

  1. 首先执行SynchronousQueue.offer(Runnable task)。如果当前maximumPool中有空闲线程
    正在执行SynchronousQueue.poll(keepAliveTime,TimeUnit.NANOSECONDS),那么主线程执行
    offer操作与空闲线程执行的poll操作配对成功,主线程把任务交给空闲线程执行,execute()方
    法执行完成;
  2. 当初始maximumPool为空,或者maximumPool中当前没有空闲线程时CachedThreadPool会创建一个新线程执行任务,execute()方法执行完成。
  3. 新创建的线程将任务执行完后,会执行SynchronousQueue.poll(keepAliveTime,TimeUnit.NANOSECONDS)。这个poll操作会让空闲线程最多在SynchronousQueue中等待60秒钟

ScheduledThreadPoolExecutor详解

ScheduledThreadPoolExecutor继承自ThreadPoolExecutor。它主要用来在给定的延迟之后运行任务,或者定期执行任务

ScheduledThreadPoolExecutor的运行机制

ScheduledThreadPoolExecutor为了实现周期性的执行任务,对ThreadPoolExecutor做了如下的修改。

  • ·使用DelayQueue作为任务队列,DelayQueue是一个无界队列,所以maximumPoolSize参数无效
  • ·获取任务的方式不同
  • ·执行周期任务后,增加了额外的处理
    ScheduledThreadPoolExecutor的执行主要分为两大部分。
    1)当调用ScheduledThreadPoolExecutor的scheduleAtFixedRate()方法或者scheduleWith-
    FixedDelay()方法时,会向ScheduledThreadPoolExecutor的DelayQueue添加一个实现了
    RunnableScheduledFutur接口的ScheduledFutureTask。
    2)线程池中的线程从DelayQueue中获取ScheduledFutureTask,然后执行任务。

ScheduledThreadPoolExecutor的实现

ScheduledThreadPoolExecutor会把待调度的任务(ScheduledFutureTask)放到一个DelayQueue中。
ScheduledFutureTask主要包含3个成员变量:

  • ·long型成员变量time,表示这个任务将要被执行的具体时间。
  • ·long型成员变量sequenceNumber,表示这个任务被添加到ScheduledThreadPoolExecutor中的序号。
  • ·long型成员变量period,表示任务执行的间隔周期。

DelayQueue封装了一个PriorityQueue,对队列中的Scheduled-FutureTask进行排序。time小的排在前面,time相同,则sequenceNumber小的排在前面保证先提交的任务将被先执行

ScheduledThreadPoolExecutor中的线程执行周期任务的过程

  1. 线程1从DelayQueue中获取已到期的ScheduledFutureTask(DelayQueue.take())。到期任务是指ScheduledFutureTask的time大于等于当前时间。
public E take() throws InterruptedException {
        final ReentrantLock lock = this.lock;
        lock.lockInterruptibly();            // 1
        try {
            for (;;) {
                E first = q.peek();
                if (first == null) {
                    available.await();          // 2.1
                } else {
                    long delay = first.getDelay(TimeUnit.NANOSECONDS);
                    if (delay > 0) {
                    //等待的期间如果有新加入的任务也会返回重新获取头任务判断
                        long tl = available.awaitNanos(delay);  // 2.2
                    } else {
                         E x = q.poll();          // 2.3.1
                        assert x != null;
                        if (q.size() != 0)
                            available.signalAll();        // 2.3.2
                        return x;
                    }
                }
            }
        } finally {
            lock.unlock();              // 3
        }
}
  1. 线程1执行这个ScheduledFutureTask。
  2. 线程1修改ScheduledFutureTask的time变量为下次将要被执行的时间。
  3. 线程1把这个修改time之后的ScheduledFutureTask放回DelayQueue中(Delay-Queue.add())。
public boolean offer(E e) {
    final ReentrantLock lock = this.lock;
    lock.lock();          // 1
    try {
        E first = q.peek();
        q.offer(e);        // 2.1
        //fist为空代表e是是头元素
        //或者e比头元素排序更靠前,都需要唤醒等待线程来执行e
        if (first == null || e.compareTo(first) < 0)
            available.signalAll();   // 2.2
        return true;
    } finally {
        lock.unlock();        // 3
    }
}

FutureTask 详解

FutureTask简介

FutureTask除了实现Future接口外,还实现了Runnable接口。因此,FutureTask可以交给Executor执行,也可以由调用线程直接执行(FutureTask.run())。根据FutureTask.run()方法被执行的时机,FutureTask可以处于下面3种状态。

  1. 未启动。FutureTask.run()方法还没有被执行之前,FutureTask处于未启动状态。当创建一个FutureTask,且没有执行FutureTask.run()方法之前,这个FutureTask处于未启动状态。
  2. 已启动。FutureTask.run()方法被执行的过程中,FutureTask处于已启动状态。
  3. 已完成。FutureTask.run()方法执行完后正常结束,或被取消(FutureTask.cancel(…)),或执行FutureTask.run()方法时抛出异常而异常结束,FutureTask处于已完成状态。
  • 当FutureTask处于未启动状态时,执行FutureTask.cancel()方法将导致此任务永远不会被执行;
  • 当FutureTask处于已启动状态时,执行FutureTask.cancel(true)方法将以中断执行此任务线程的方式来试图停止任务;
  • 当FutureTask处于已启动状态时,执行FutureTask.cancel(false)方法将不会对正在执行此任务的线程产生影响(让正在执行的任务运行完成);
  • 当FutureTask处于已完成状态时,执行FutureTask.cancel(…)方法将返回false。

FutureTask的使用

可以把FutureTask交给Executor执行;也可以通过ExecutorService.submit(…)方法返回一个FutureTask,然后执行FutureTask.get()方法或FutureTask.cancel(…)方法。除此以外,还可以单独使用FutureTask。

设有多个线程执行若干任务,每个任务最多只能被执行一次。当多个线程试图同时执行同一个任务时,只允许一个线程执行任务,其他线程需要等待这个任务执行完后才能继续执行。代码示例

private final ConcurrentMap<Object, Future<String>> taskCache =new ConcurrentHashMap<Object, Future<String>>();
private String executionTask(final String taskName)
    throws ExecutionException, InterruptedException {
    while (true) {
        Future<String> future = taskCache.get(taskName);  // 1.1,2.1
        if (future == null) {
            Callable<String> task = new Callable<String>() {
                    public String call() throws InterruptedException {
                        return taskName;
                    }
            }; // 1.2创建任务
            FutureTask<String> futureTask = new FutureTask<String>(task);
            
            future = taskCache.putIfAbsent(taskName, futureTask); // 1.3
            //future为null带便put操作成功(返回的是oldVlaue,如果返回的不为空代表已经存在返回了oldValue)
            if (future == null) {//put成功则由当前线程执行task
                    future = futureTask;
                    futureTask.run();        // 1.4执行任务
            }
        }
        try {   
                //所有的线程都会在这里等待task执行完成,(其他线程拿到了put的task直接等待结果即可)
                return future.get();      // 1.5,2.2线程在此等待任务执行完成
        } catch (CancellationException e) {
                taskCache.remove(taskName, future);
        }
    }
}

FutureTask的实现

FutureTask的实现基于AbstractQueuedSynchronizer(以下简称为AQS)基于AQS实现的同步器包括:ReentrantLock、Semaphore、ReentrantReadWriteLock、CountDownLatch和FutureTask。

AQS被作为“模板方法模式”的基础类提供给FutureTask的内部子类Sync,这个内部子类只需要实现状态检查和状态更新的方法即可,这些方法将控制FutureTask的获取和释放操作。具体来说,Sync实现了AQS的tryAcquireShared(int)方法和tryReleaseShared(int)方法,Sync通过这两个方法来检查和更新同步状态。

FutureTask.get()方法会调用AQS.acquireSharedInterruptibly(int arg)方法,这个方法的执行过程如下:

  1. 调用AQS.acquireSharedInterruptibly(int arg)方法,这个方法首先会回调在子类Sync中实现的tryAcquireShared()方法来判断acquire操作是否可以成功。acquire操作可以成功的条件为:state为执行完成状态RAN或已取消状态CANCELLED,且runner不为null。
  2. 如果成功则get()方法立即返回。如果失败则到线程等待队列中去等待其他线程执行release操作。
  3. 当其他线程执行release操作(比如FutureTask.run()或FutureTask.cancel(…))唤醒当前线程后,当前线程再次执行tryAcquireShared()将返回正值1,当前线程将离开线程等待队列并唤醒它的后继线程(这里会产生级联唤醒的效果)。
  4. 最后返回计算的结果或抛出异常。

FutureTask.run()的执行过程如下。

  1. 执行在构造函数中指定的任务(Callable.call())。
  2. 以原子方式来更新同步状态(调用AQS.compareAndSetState(int expect,int update),设置state为执行完成状态RAN)。如果这个原子操作成功,就设置代表计算结果的变量result的值为Callable.call()的返回值,然后调用AQS.releaseShared(int arg)。
  3. AQS.releaseShared(int arg)首先会回调在子类Sync中实现的tryReleaseShared(arg)来执
    行release操作(设置运行任务的线程runner为null,然会返回true);AQS.releaseShared(int arg),
    然后唤醒线程等待队列中的第一个线程。
  4. 调用FutureTask.done()。

jdk6是基于AQS,jdk7和jdk8的源码都没有使用AQS,只是实现了RunnableFuture接口(继承自Runnable,Future接口)

  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值