线程池

Java中的线程池是运用场景最多的并发框架,几乎所有需要异步或者并发执行任务的程序都可以使用线程池。开发
中使用线程池的三个优点如下:

  1. 降低资源消耗:通过重复利用已经创建的线程降低线程创建和销毁带来的消耗.
  2. 提高响应速度:当任务到达时,任务可以不需等待线程创建就能立即执行.
  3. 提高线程的可管理性:使用线程池可以统一进行线程分配,调度和监控.

1. 线程池的实现原理

当向线程池提交了一个任务之后,线程池是如何处理这个任务的呢?下面来看线程池的主要处理流程如下:

 1)线程池判断核心线程池里的线程是否都在执行任务。如果不是,则创建一个新的工作线程来执行任务。如
果核心线程池里的线程都在执行任务,则进入下个流程。
2)线程池判断工作队列是否已经满。如果工作队列没有满,则将新提交的任务存储在这个工作队列里。如果
工作队列满了,则进入下个流程。
3)线程池判断线程池的线程是否都处于工作状态。如果没有,则创建一个新的工作线程来执行任务。如果已
经满了,则交给饱和策略来处理这个任务。

当任务到达时线程池工作流程:

1.若核心池未满,则创建新的线程执行任务而后将此线程入核心池

   --若核心池已满且有空闲线程,调度空闲线程执行任务

2.将任务置入阻塞队列,排队等待空间线程调度(juc)

 --ArrayBlockingQueue:基于数组的有界阻塞队列

 --LinkedBlockingQueue:基于链表的无界阻塞队列

 --Synchronized:不存储元素的无界阻塞队列

3.当阻塞队列满时,若此时最大线程池未满,创建新线程执行任务而后置入最大线程池中

4.若最大线程池已满,调用相应拒绝策略处理任务(默认为抛出异常,且不处理任务)

ThreadPoolExecutor(线程池执行器)执行execute()方法的流程图如下:

JDK内置四大线程池(Executors):

---固定大小线程池:LinkedBlockingQueue

应用场景:当服务器负载叫重时,限制线程数量,可以采用固定大小线程池

return new ThreadPoolExecutor(nThreads,nThreads,0LTimeOut.MILLISECONDS,new LinkedBlockingQueue<Runnable>();

--单线程池:newSingleThreadExecutor

应用场景:某些需要同步处理的场合(任务需要按序处理)

return new ThreadPoolExecutor(1,1,0L,TimeOUt.MILLISECONDS,new LinkedBlockingQueue<Runnable>();

--缓存线程池:newCatchedThreadPool

应用场景:适用于 较轻的服务器,适用于很多短期的小人去

return new ThreadPoolExecutor(0,Integer.MAX_VALUE,60L,TimeUnit.SECONDS,new SynchronousQueue<Runnable>();

SynchronousQueue:不存储元素入队与出队,操作必须同时调用

提交任务速度 > 执行任务速度 : 不断创建新线程执行任务,有可能会将内存写满

提交任务速度 < 执行任务速度 :固定的几个线程来处理任务

-- 定时调度池:newScheduledThreadPool

应用场景:需要执行定时任务的场合

1)如果当前运行的线程少于corePoolSize(核心线程池的大小),则创建新线程来执行任务(注意,执行这一步骤需要获取全局
锁)。
2)如果运行的线程等于或多于corePoolSize,则将任务加入BlockingQueue(阻塞队列)。
3)如果无法将任务加入BlockingQueue(队列已满),则创建新的线程来处理任务(注意,执行这一步骤需
要获取全局锁)。
4)如果创建新线程将使当前运行的线程超出maximumPoolSize(最大极限的线程池大小),任务将被拒绝,并调用
RejectedExecutionHandler(拒绝执行0.rejectedExecution()方法。

ThreadPoolExecutor采取上述步骤的总体设计思路,是为了在执行execute()方法时,尽可能地避免获取全局锁
(那将会是一个严重的可伸缩瓶颈)。在ThreadPoolExecutor完成预热之后(当前运行的线程数大于等于
corePoolSize),几乎所有的execute()方法调用都是执行步骤2,而步骤2不需要获取全局锁。

工作线程
线程池创建线程时,会将线程封装成工作线程Worker,Worker在执行完任务后,还会循环获取工作队列里的任务
来执行。
ThreadPoolExecutor中线程执行任务的示意图如下图所示。

线程池中的线程执行任务分两种情况,如下。

  • 在execute()方法中创建一个线程时,会让这个线程执行当前任务。
  • 这个线程执行完当前任务后,会反复从BlockingQueue获取任务来执行。

2. 线程池的使用

2.1 线程池的创建

我们可以通过ThreadPoolExecutor来创建一个线程池:

public ThreadPoolExecutor(int corePoolSize,
             int maximumPoolSize,
             long keepAliveTime,
             TimeUnit unit,
             BlockingQueue<Runnable> workQueue,
             RejectedExecutionHandler handler)

  创建一个线程池时需要输入几个参数,如下。

1)corePoolSize(线程池的基本大小):当提交一个任务到线程池时,线程池会创建一个线程来执行任务,
即使其他空闲的基本线程能够执行新任务也会创建线程,等到需要执行的任务数大于线程池基本大小时就不
再创建。如果调用了线程池的prestartAllCoreThreads()方法,线程池会提前创建并启动所有基本线程。

2)runnableTaskQueue(任务队列):用于保存等待执行的任务的阻塞队列。可以选择以下几个阻塞队
列。

  • ·ArrayBlockingQueue:是一个基于数组结构的有界阻塞队列,此队列按FIFO(先进先出)原则对元素进行
  • 排序。
  • ·LinkedBlockingQueue:一个基于链表结构的阻塞队列,此队列按FIFO排序元素,吞吐量通常要高于
  • ArrayBlockingQueue。静态工厂方法Executors.newFixedThreadPool()使用了这个队列。
  • ·SynchronousQueue:一个不存储元素的阻塞队列。每个插入操作必须等到另一个线程调用移除操作,否则
  • 插入操作一直处于阻塞状态,吞吐量通常要高于Linked-BlockingQueue,静态工厂方法
  • Executors.newCachedThreadPool使用了这个队列。 
  • PriorityBlockingQueue:一个具有优先级的无限阻塞队列。

3)maximumPoolSize(线程池最大数量):线程池允许创建的最大线程数。如果队列满了,并且已创建的
线程数小于最大线程数,则线程池会再创建新的线程执行任务。值得注意的是,如果使用了无界的任务队列
这个参数就没什么效果。
4) keepAliveTime(线程活动保持时间):线程池的工作线程空闲后,保持存活的时间。所以,如果任务很
多,并且每个任务执行的时间比较短,可以调大时间,提高线程的利用率。
5) TimeUnit(线程活动保持时间的单位):可选的单位有天(DAYS)、小时(HOURS)、分钟
(MINUTES)、毫秒(MILLISECONDS)、微秒(MICROSECONDS,千分之一毫秒)和纳秒
(NANOSECONDS,千分之一微秒)。
6) RejectedExecutionHandler(饱和策略):当队列和线程池都满了,说明线程池处于饱和状态,那么必须
采取一种策略处理提交的新任务。这个策略默认情况下是AbortPolicy,表示无法处理新任务时抛出异常。在
JDK 1.5中Java线程池框架提供了以下4种策略。

 

  • ·AbortPolicy:直接抛出异常。(默认采用此策略)
  • ·CallerRunsPolicy:只用调用者所在线程来运行任务。
  • ·DiscardOldestPolicy:丢弃队列里最近的一个任务,并执行当前任务。 
  • ·DiscardPolicy:不处理,丢弃掉。

手工创建一个线程池:

ThreadPoolExecutor threadPoolExecutor =
    new ThreadPoolExecutor(3,5,2000,TimeUnit.MILLISECONDS,
        new LinkedBlockingDeque<Runnable>());

2.2 向线程池提交任务

可以使用两个方法向线程池提交任务,分别为execute()和submit()方法。
execute()方法用于提交不需要返回值的任务,所以无法判断任务是否被线程池执行成功。

使用execute()方法:

package Thread;

import java.util.concurrent.LinkedBlockingDeque;
import java.util.concurrent.ThreadPoolExecutor;
import java.util.concurrent.TimeUnit;

/**
 * Author:weiwei
 * description:execute()方法
 * Creat:2019/2/24
 **/

class RunnableThread implements Runnable{

    @Override
    public void run() {
        for(int i=0;i<50;i++){
            System.out.println(Thread.currentThread().getName());
        }
    }
}
public class Test0224 {
    public static void main(String[] args) {
        RunnableThread runnableThread = new RunnableThread();
        ThreadPoolExecutor threadPoolExecutor =
                new ThreadPoolExecutor(3,5,2000,TimeUnit.MILLISECONDS,
                        new LinkedBlockingDeque<Runnable>());
        for(int i=0;i<5;i++){
            threadPoolExecutor.execute(runnableThread);
        }
    }
}

  submit()方法用于提交需要返回值的任务。线程池会返回一个future类型的对象,通过这个future对象可以判断任
务是否执行成功,并且可以通过future的get()方法来获取返回值,get()方法会阻塞当前线程直到任务完成,而使用
get(long timeout,TimeUnit unit)方法则会阻塞当前线程一段时间后立即返回,这时候有可能任务没有执行
完。

使用submit()方法:

package Thread;

import java.util.concurrent.*;

/**
 * Author:weiwei
 * description:submit()方法
 * Creat:2019/2/24
 **/

class CallableThread implements Callable<String> {

    @Override
    public String call() throws Exception {
        for (int i = 0; i < 50; i++) {
            System.out.println(Thread.currentThread().getName() + "," + i);
        }
            return Thread.currentThread().getName() + "任务执行完毕";
        }
    }
    public class Test224 {
        public static void main(String[] args) {
            CallableThread callableThread = new CallableThread();
            ThreadPoolExecutor threadPoolExecutor = new
                    ThreadPoolExecutor(3,5,2000,
                    TimeUnit.MILLISECONDS,new LinkedBlockingDeque<Runnable>());
                    for(int i=0;i<5;i++){
                        Future<String> future = threadPoolExecutor.submit(callableThread);
                        try{
                            String str = future.get();
                            System.out.println(str);
                        } catch (InterruptedException e) {
                            e.printStackTrace();
                        } catch (ExecutionException e) {
                            e.printStackTrace();
                        }
                    }
        }
    }

2.3 关闭线程池

可以通过调用线程池的shutdown(平滑关闭线程池)或shutdownNow(非平滑关闭线程池,有可能正在执行的任务未完成)方法来关闭线程池。它们的原理是遍历线程池中的工作线程,然后逐个调用线程的interrupt方法来中断线程,所以无法响应中断的任务可能永远无法终止。但是它们存在一定的区别。

  • shutdownNow首先将线程池的状态设置成STOP,然后尝试停止所有的正在执行或暂停任务的线程,并返回等待执行任务的列表。
  • shutdown只是将线程池的状态设置成SHUTDOWN状态,然后中断所有没有正在执行任务的线程。
  • 只要调用了这两个关闭方法中的任意一个,isShutdown方法就会返回true。当所有的任务都已关闭后,才表示线程池关闭成功,这时调用isTerminaed方法会返回true。至于应该调用哪一种方法来关闭线程池,应该由提交到线
  • 程池的任务特性决定,通常调用shutdown方法来关闭线程池,如果任务不一定要执行完,则可以调用shutdownNow方法。

关闭线程池:

threadPoolExecutor.shutdown();

 2.4 合理配置线程池

要想合理地配置线程池,就必须首先分析任务特性,可以从以下几个角度来分析。

  1. 任务的性质:CPU密集型任务、IO密集型任务和混合型任务。
  2. 任务的优先级:高、中和低。
  3. 任务的执行时间:长、中和短。
  4. 任务的依赖性:是否依赖其他系统资源,如数据库连接。

性质不同的任务可以用不同规模的线程池分开处理。CPU密集型任务应配置尽可能小的线程,如配置Ncpu+1个线
程的线程池。由于IO密集型任务线程并不是一直在执行任务,则应配置尽可能多的线程,如2*Ncpu。混合型的任
务,如果可以拆分,将其拆分成一个CPU密集型任务和一个IO密集型任务,只要这两个任务执行的时间相差不是太
大,那么分解后执行的吞吐量将高于串行执行的吞吐量。如果这两个任务执行时间相差太大,则没必要进行分解。
可以通过 Runtime.getRuntime().availableProcessors() 方法获得当前设备的CPU个数。
优先级不同的任务可以使用优先级队列 PriorityBlockingQueue 来处理。它可以让优先级高的任务先执行。

注意:如果一直有优先级高的任务提交到队列里,那么优先级低的任务可能永远不能执行。
执行时间不同的任务可以交给不同规模的线程池来处理,或者可以使用优先级队列,让执行时间短的任务先执行。
依赖数据库连接池的任务,因为线程提交SQL后需要等待数据库返回结果,等待的时间越长,则CPU空闲时间就越
长,那么线程数应该设置得越大,这样才能更好地利用CPU。 

2.5 Executor框架 

在Java中,使用线程来异步执行任务。Java线程的创建与销毁需要一定的开销,如果我们为每一个任务创建一个新
线程来执行,这些线程的创建与销毁将消耗大量的计算资源。同时,为每一个任务创建一个新线程来执行,这种策
略可能会使处于高负荷状态的应用最终崩溃。
Java的线程既是工作单元,也是执行机制。从JDK 5开始,把工作单元与执行机制分离开来。工作单元包括
Runnable和Callable,而执行机制由Executor框架提供。

Executor框架的两级调度模型:

Java线程(java.lang.Thread)被一对一映射为本地操作系统线程。Java线程启动时会创建一个本地操作系统线
程;当该Java线程终止时,这个操作系统线程也会被回收。操作系统会调度所有线程并将它们分配给可用的CPU。
在上层,Java多线程程序通常把应用分解为若干个任务,然后使用用户级的调度器(Executor框架)将这些任务映
射为固定数量的线程;在底层,操作系统内核将这些线程映射到硬件处理器上。这种两级调度模型的示意图如下图
所示

Executor框架的结构与成员

Executor框架的主要成员如下图:

ThreadPoolExecutor详解 

Executor框架最核心的类是ThreadPoolExecutor,它是线程池的实现类。通过Executor框架的工具类Executors,
可以创建3种类型的ThreadPoolExecutor。

  • 1. 创建无大小限制的线程池:public static ExecutorService newCachedThreadPool()
  • 2. 创建固定大小的线程池:public static ExecutorService newFixedThreadPool(int nThreads)
  • 3. 单线程池:public static ExecutorService newSingleThreadExecutor()

一. FixedThreadPool详解 

FixedThreadPool被称为可重用固定线程数的线程池。

public static ExecutorService newFixedThreadPool(int nThreads) {
  return new ThreadPoolExecutor(nThreads, nThreads,
                 0L, TimeUnit.MILLISECONDS,
                 new LinkedBlockingQueue<Runnable>());
}

 FixedThreadPool使用无界队列LinkedBlockingQueue作为线程池的工作队列(队列的容量为
Integer.MAX_VALUE)。使用无界队列作为工作队列会对线程池带来如下影响。

  • 1)当线程池中的线程数达到corePoolSize后,新任务将在无界队列中等待,因此线程池中 的线程数不会超过corePoolSize。
  • 2)由于1,使用无界队列时maximumPoolSize将是一个无效参数。
  • 3)由于1和2,使用无界队列时keepAliveTime将是一个无效参数。
  • 4)由于使用无界队列,运行中的FixedThreadPool(未执行方法shutdown()或 shutdownNow())不会拒绝任务(不会调用RejectedExecutionHandler.rejectedExecution方法)。

使用FixedThreadPool

package Thread;

import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

/**
 * Author:weiwei
 * description:FixedThreadPool
 * Creat:2019/2/25
 **/
public class Test0225 {
    public static void main(String[] args) {
        ExecutorService executorService =
                Executors.newFixedThreadPool(5);
        for(int i=0;i<5;i++){
            executorService.submit(new Runnable() {
                @Override
                public void run() {
                    for(int j=0;j<10;j++){
                        System.out.println(Thread.currentThread().getName()+","+j);
                    }
                }
            });
        }
        executorService.shutdown();
    }
}

 FixedThreadPool适用于为了满足资源管理的需求,而需要限制当前线程数量的应用场合,适用于负载比较重的
服务器,负载高的话尽可能用固定长度的线程池

二. SingleThreadPoolExecutor详解 

SingleThreadExecutor是使用单个worker线程的Executor。(单线程池) 

public static ExecutorService newSingleThreadExecutor() {
  return new FinalizableDelegatedExecutorService
   (new ThreadPoolExecutor(1, 1,
                0L, TimeUnit.MILLISECONDS,
                new LinkedBlockingQueue<Runnable>()));
}

SingleThreadExecutor的corePoolSize和maximumPoolSize被设置为1。其他参数与FixedThreadPool相同。
SingleThreadExecutor使用无界队列LinkedBlockingQueue作为线程池的工作队列(队列的容量为
Integer.MAX_VALUE)。

使用单线程池

package Thread;

import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

/**
 * Author:weiwei
 * description:SingleThreadPoolExecutor
 * Creat:2019/2/25
 **/
public class Test25 {
    public static void main(String[] args) {
        ExecutorService executorService =
                Executors.newSingleThreadExecutor();
        for(int i=0;i<5;i++){
            executorService.submit(new Runnable() {
                @Override
                public void run() {
                    for(int j=0;j<10;j++){
                        System.out.println(Thread.currentThread().getName()+","+j);
                    }
                }
            });
        }
        executorService.shutdown();
    }
}

SingleThreadExecutor适用于需要保证顺序地执行各个任务;并且在任意时间点,不会有多个线程是活动的应用
场景。

三.  CachedThreadPool详解 

CachedThreadPool是一个会根据需要创建新线程的线程池

public static ExecutorService newCachedThreadPool() {
  return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
                 60L, TimeUnit.SECONDS,
                 new SynchronousQueue<Runnable>());
}

 CachedThreadPool的corePoolSize被设置为0,即corePool为空;maximumPoolSize被设置为Integer.MAX_VALUE,即maximumPool是无界的。这里把keepAliveTime设置为60L,意味着CachedThreadPool中的空闲线程等待新任务的最长时间为60秒,空闲线程超过60秒后将会被终止。
FixedThreadPool和SingleThreadExecutor使用无界队列LinkedBlockingQueue作为线程池的工作队列。
CachedThreadPool使用没有容量的SynchronousQueue作为线程池的工作队列,但CachedThreadPool的maximumPool是无界的。这意味着,如果主线程提交任务的速度高于maximumPool中线程处理任务的速度时,CachedThreadPool会不断创建新线程。极端情况下,CachedThreadPool会因为创建过多线程而耗尽CPU和内存资源。

CachedThreadPool的execute()方法的执行示意图如下图所示

 

  • 1)首先执行SynchronousQueue.offer(Runnable task)。如果当前maximumPool中有空闲线程正在执
  • 行SynchronousQueue.poll(keepAliveTime,TimeUnit.NANOSECONDS),那么主线程执行offer操作与
  • 空闲线程执行的poll操作配对成功,主线程把任务交给空闲线程执行,execute()方法执行完成;否则执行下
  • 面的步骤2)。
  • 2)当初始maximumPool为空,或者maximumPool中当前没有空闲线程时,将没有线程执行
  • SynchronousQueue.poll(keepAliveTime,TimeUnit.NANOSECONDS)。这种情况下,步骤1)将失败。
  • 此时CachedThreadPool会创建一个新线程执行任务,execute()方法执行完成。
  • 3)在步骤2)中新创建的线程将任务执行完后,会执行SynchronousQueue.poll(keepAliveTime,
  • TimeUnit.NANOSECONDS)。这个poll操作会让空闲线程最多在SynchronousQueue中等待60秒钟。如果
  • 60秒钟内主线程提交了一个新任务(主线程执行步骤1)),那么这个空闲线程将执行主线程提交的新任
  • 务;否则,这个空闲线程将终止。由于空闲60秒的空闲线程会被终止,因此长时间保持空闲的
  • CachedThreadPool不会使用任何资源。

使用缓冲线程池

package Thread;

import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

/**
 * Author:weiwei
 * description:缓冲线程池
 * Creat:2019/2/25
 **/
public class Test025 {
    public static void main(String[] args) {
        ExecutorService executorService =
                Executors.newCachedThreadPool();
        for(int i=0;i<5;i++) {
            try {
                Thread.sleep(500);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
            executorService.submit(new Runnable() {
                @Override
                public void run() {
                    for (int j = 0; j < 10; j++) {
                        System.out.println(Thread.currentThread().getName() + "," + j);
                    }
                }
            });
        }
            executorService.shutdown();
    }
}

 CachedThreadPool是大小无界的线程池,适用于执行很多的短期异步任务的小程序,或者负载较轻的服务器

四. ScheduledThreadPoolExecutor详解

ScheduledThreadPoolExecutor继承自ThreadPoolExecutor。它主要用来在给定的延迟之后运行任务,或者定期
执行任务。ScheduledThreadPoolExecutor的功能与Timer类似,但ScheduledThreadPoolExecutor功能更强大、
更灵活。Timer对应的是单个后台线程,而ScheduledThreadPoolExecutor可以在构造函数中指定多个对应的后台
线程数。

ScheduledThreadPoolExecutor的执行流程图如下:

DelayQueue是一个无界队列,所以ThreadPoolExecutor的maximumPoolSize在ScheduledThreadPoolExecutor
中没有什么意义(设置maximumPoolSize的大小没有什么效果)。ScheduledThreadPoolExecutor的执行主要分
为两大部分

1)当调用ScheduledThreadPoolExecutor的scheduleAtFixedRate()方法或者scheduleWithFixedDelay()方
法时,会向ScheduledThreadPoolExecutor的DelayQueue添加一个实现了RunnableScheduledFutur接口
的ScheduledFutureTask。
2)线程池中的线程从DelayQueue中获取ScheduledFutureTask,然后执行任务。
ScheduledThreadPoolExecutor为了实现周期性的执行任务,对ThreadPoolExecutor做了如下的修改。

  • 使用DelayQueue作为任务队列。
  • 获取任务的方式不同
  • 执行周期任务后,增加了额外的处理 

使用定时调度池

package Thread;

import java.util.concurrent.Executors;
import java.util.concurrent.ScheduledExecutorService;
import java.util.concurrent.TimeUnit;

/**
 * Author:weiwei
 * description:定时调度池
 * Creat:2019/2/25
 **/
public class TE25 {
    public static void main(String[] args) {
        ScheduledExecutorService executorService =
                Executors.newScheduledThreadPool(5);
        for(int i=0;i<5;i++){
            executorService.scheduleAtFixedRate(new Runnable() {
                @Override
                public void run() {
                    for(int j=0;j<10;j++){
                        System.out.println(Thread.currentThread().getName()+","+j);
                    }
                }
            },2,3, TimeUnit.SECONDS);
        }
    }
}

 

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值