Java线程池的实现原理

Java线程池的目的主要有:

1) 线程池中包含固定存在和有效时间存活的线程，在执行大量并发请求时，能够节省线程创建和关闭的开销，从而提高项目的性能

2) 在一定程度上可以对线程数目做可控处理，降低CPU Starvation的风险。每个线程都要占用一定的内存，而且并不是线程数目越多，任务执行的越快，线程的上下文切换也是一个大的开销。

具体实现类，可以参考java.util.concurrent.ThreadPoolExecutor.java

 1. API接口

    ThreadPoolExecutor提供的主要API有：

    public void execute(Runnable command); //执行一个新的任务

    public void shutdown()；//不再接受新的任务请求，但会继续执行之前提交的未处理的任务

    public List<Runnable> shutdownNow(); //尝试去中止所有正在执行的任务，并返回正在出于等待的任务

    .....

    还有其他检测线程池的状态的API

2. 状态定义和设计

   

private static final int COUNT_BITS = Integer.SIZE - 3;
// runState is stored in the high-order bits
private static final int RUNNING    = -1 << COUNT_BITS;
private static final int SHUTDOWN   =  0 << COUNT_BITS;
private static final int STOP       =  1 << COUNT_BITS;
private static final int TIDYING    =  2 << COUNT_BITS;
private static final int TERMINATED =  3 << COUNT_BITS;

  ThreadPoolExecutor定义了如上代码中的5中运行时状态。

    RUNNING：正在运行，接受新的任务，并处理已经入列的任务

    SHUTDOWN: 不再接受新的任务，但会继续处理在等待队列中未处理的任务

    STOP: 不再接受新的任务，也不处理在等待队列中的任务，并且会尝试去中断正在处理的任务

    TIDYING: 所有的任务都已经中止，并且池中线程的数目为0(当运行时状态切换到TIDYING时，会触发terminated()方法)

    TERMINATED: 当terminated()方法执行完毕，则切换到了TERMINATED

  几种状态的切换：

  RUNNING -> SHUTDOWN（执行shutdown()方法）

  (RUNNING or SHUTDOWN) -> STOP (执行shutdownNow()方法)

  SHUTDOWN -> TIDYING (当等待处理的线程队列和线程池中都为空)

  TIDYING -> TERMINATED(当terminated()这个钩子方法执行完毕后)

3. 结构设计

    private final AtomicInteger ctl = new AtomicInteger(ctlOf(RUNNING, 0));//统计正在运行的线程数目

    ....

    private final BlockingQueue<Runnable> workQueue;//未分配的的待处理任务

    ....

    private final HashSet<Worker> workers = new HashSet<Worker>();//池中线程的封装类，每一个Worker关联一个Thread对象

    ....

   具体结构如下图：

4. 任务处理流程

    线程池接收的新的任务后，如果当前池中线程数没有超过CoreSize,则创建一个新的Worker(同时会创建一个新的线程对象，关联在Worker对象上)。否则，直接将任务放入待处理任务队列中。新的Worker创建，并成功添加到线程池后，会开启一个新的线程(Worker对象关联的线程)去执行Worker的run()方法。在这里，Worker委托ThreadPoolExecutor去执行实际业务处理方法，并将自己的引用暴露给ThreadPoolExecutor的runTask(Worker worker) 方法。

 

/** Delegates main run loop to outer runWorker  */
public void run() {
   runWorker(this);
}

    ThreadPoolExecutor处理新接收的任务流程路如下：

   

在ThreadPoolExecutor对象中，runWorker方法会轮询worker的首要任务是否存在，或者从待处理任务队列中找到下一个要处理的任务。也就是说线程池中的核心线程(这里当池的线程数目少于核心线程数的线程都叫核心线程)一直在处理任务，或者等待新的任务，从而不会被销毁。

final void runWorker(Worker w) {
    Thread wt = Thread.currentThread();
    Runnable task = w.firstTask;
    w.firstTask = null;
    w.unlock(); // allow interrupts
    boolean completedAbruptly = true;
    try {
        while (task != null || (task = getTask()) != null) {
            w.lock();
            // If pool is stopping, ensure thread is interrupted;
            // if not, ensure thread is not interrupted.  This
            // requires a recheck in second case to deal with
            // shutdownNow race while clearing interrupt
            if ((runStateAtLeast(ctl.get(), STOP) ||
                 (Thread.interrupted() &&
                  runStateAtLeast(ctl.get(), STOP))) &&
                !wt.isInterrupted())
                wt.interrupt();
            try {
                beforeExecute(wt, task);
                Throwable thrown = null;
                try {
                    task.run();
                } catch (RuntimeException x) {
                    thrown = x; throw x;
                } catch (Error x) {
                    thrown = x; throw x;
                } catch (Throwable x) {
                    thrown = x; throw new Error(x);
                } finally {
                    afterExecute(task, thrown);
                }
            } finally {
                task = null;
                w.completedTasks++;
                w.unlock();
            }
        }
        completedAbruptly = false;
    } finally {
        processWorkerExit(w, completedAbruptly);
    }
}

private Runnable getTask() {
    boolean timedOut = false; // Did the last poll() time out?

    retry:
    for (;;) {
        int c = ctl.get();
        int rs = runStateOf(c);

        // Check if queue empty only if necessary.
        if (rs >= SHUTDOWN && (rs >= STOP || workQueue.isEmpty())) {
            decrementWorkerCount();
            return null;
        }

        boolean timed;      // Are workers subject to culling?

        for (;;) {
            int wc = workerCountOf(c);
            timed = allowCoreThreadTimeOut || wc > corePoolSize;

            if (wc <= maximumPoolSize && ! (timedOut && timed))
                break;
            if (compareAndDecrementWorkerCount(c))
                return null;
            c = ctl.get();  // Re-read ctl
            if (runStateOf(c) != rs)
                continue retry;
            // else CAS failed due to workerCount change; retry inner loop
        }

        try {
            Runnable r = timed ?
                workQueue.poll(keepAliveTime, TimeUnit.NANOSECONDS) :
                workQueue.take();
            if (r != null)
                return r;
            timedOut = true;
        } catch (InterruptedException retry) {
            timedOut = false;
        }
    }
}