* 阻塞队列的作用及实现

最新推荐文章于 2024-04-29 19:50:31 发布

DP成长之路

最新推荐文章于 2024-04-29 19:50:31 发布

阅读量324

点赞数

分类专栏： JVM与高并发

原文链接：https://juejin.cn/post/6962797556854161439

版权

JVM与高并发专栏收录该内容

22 篇文章 2 订阅

订阅专栏

前言

提到阻塞队列，大家脑海中就会冒出：

BlockingQueue
ArrayBlockingQueue
LinkedBlockingQueue
SynchronousQueue

但JDK阻塞队列本身是非常简单的，难的是阻塞队列内部的AQS。

如果你之前对阻塞队列一无所知又恰好想要学习，希望能耐心看完下面的内容。还是那句话，学习阻塞队列的重点不是阻塞队列本身...我自己都可以手写阻塞队列。

为了打破大家对阻塞队列“难”、“晦涩”、“神秘”的印象，我会从新的角度切入，重构大家对阻塞队列的认识。

主要内容：

什么是线程间通信
实现线程间通信
轮询
等待唤醒机制：wait/notify
等待唤醒机制：condition
山寨版BlockingQueue
JDK BlockingQueue简介
展望AQS

什么是线程间通信

定义：

针对同一个资源的操作有不同种类的线程。

说人话就是：共享资源+多线程，最典型的例子就是锁和生产者消费者（本文以生产者-消费者为例子讲解）。

以现实生活为例。消费者和生产者就像两个线程，原本做着各自的事情，厂家管自己生产，消费者管自己买，一般情况下彼此互不影响。

图片.png

但当物资到达某个临界点时，就需要根据供需关系适当作出调整。

图片.png

当厂家做了一大堆东西，产能过剩时，应该暂停生产，扩大宣传，让消费者过来消费。

图片.png

当消费者发现某个热销商品售罄，应该提醒厂家尽快生产。

在上面的案例中，生产者和消费者是不同种类的线程，一个负责存入，另一个负责取出，且它们操作的是同一个资源。但最难的部分在于：

资源到达上限时，生产者等待，消费者消费
资源达到下限时，生产者生产，消费者等待

你会发现，原本互不打扰的两个线程之间开始“沟通”了：

生产者：喂，我这边做的太多了，先休息会儿，你赶紧消费
消费者：喂，货快没了，我休息会儿，你赶紧生产

这种线程间的相互调度，也就是线程间通信。

看到这，你心里暗暗想道：我擦，我只会new Thread().start()，怎么让A线程去喊B线程工作呢？

实现线程间通信

还是以上面的生产者-消费者为例，有很多种方式可以实现线程间通信。

轮询

设计理念：生产者和消费者线程各自使用while循环，每隔片刻就去判断Queue的状态，队列为空时生产者才可插入数据，队列不为空时消费者才能取出数据，否则一律sleep等待。

图片.png

/**
 * 轮询版本
 */
public class WhileQueue<T> {
    // 容器，用来装东西
    private final LinkedList<T> queue = new LinkedList<>();

    public void put(T resource) throws InterruptedException {
        while (queue.size() >= 1) {
            // 队列满了，不能再塞东西了，轮询等待消费者取出数据
            System.out.println("生产者：队列已满，无法插入...");
            TimeUnit.MILLISECONDS.sleep(1000);
        }
        System.out.println("生产者：插入" + resource + "!!!");
        queue.addFirst(resource);
    }

    public void take() throws InterruptedException {
        while (queue.size() <= 0) {
            // 队列空了，不能再取东西，轮询等待生产者插入数据
            System.out.println("消费者：队列为空，无法取出...");
            TimeUnit.MILLISECONDS.sleep(1000);
        }
        System.out.println("消费者：取出消息!!!");
        queue.removeLast();
        TimeUnit.MILLISECONDS.sleep(5000);
    }

}
复制代码

测试

public class Test {
    public static void main(String[] args) {
        // 队列
        WhileQueue<String> queue = new WhileQueue<>();

        // 生产者
        new Thread(new Runnable() {
            @Override
            public void run() {
                for (int i = 0; i < 100; i++) {
                    try {
                        queue.put("消息" + i);
                    } catch (InterruptedException e) {
                        e.printStackTrace();
                    }
                }
            }
        }).start();

        // 消费者
        new Thread(new Runnable() {
            @Override
            public void run() {
                for (int i = 0; i < 100; i++) {
                    try {
                        queue.take();
                    } catch (InterruptedException e) {
                        e.printStackTrace();
                    }
                }
            }
        }).start();
    }
}
复制代码

图片.png

由于设定了队列最多只能存1个消息，所以只有当队列为空时，生产者才能插入数据。这是最简单的线程间通信：

多个线程不断轮询共享资源，通过共享资源的状态判断自己下一步该做什么。

看到这，你发现自己被骗了：哦，原来要实现线程间通信，并非真的需要A线程直接去叫B线程干什么，只要能按实际情况完成线程切换即可！

但上面的实现方式存在一些缺点：

轮询的方式太耗费CPU资源，如果线程过多，比如几百上千个线程同时在那轮询，会给CPU带来较大负担
无法保证原子性（代码里没有演示，但理论上确实如此，如果生产者的操作非原子性，消费者极可能获取到脏数据）

等待唤醒机制：wait/notify

相对而言，等待唤醒机制则要优雅得多，底层通过维护线程队列的方式，避免了过多线程同时自旋造成的CPU资源浪费，颇有点“用空间换时间”的味道。当一个生产者线程无法插入数据时，就让它在队列里休眠（阻塞），此时生产者线程会释放CPU资源，等到消费者抢到CPU执行权并取出数据后，再由消费者唤醒生产者继续生产。

举个例子，原本生产者和消费者都要时不时去店里看一下：

生产者：货卖完了没有，卖完了我要继续生产（每分钟来店里看一下）
消费者：补货了没，补货了我就可以买了（每分钟来店里看一下）

而现在，生产者去店里看了下，发现还有货，就管自己去后厨睡觉了，等店里货都卖完了，自然会有消费者过来喊他补货，不需要付出额外的精力在店里盯着。

Java有多种方式可以实现等待唤醒机制，最经典的就是wait和notify。

/**
 * wait/notify版本
 */
public class WaitNotifyQueue<T> {
    // 容器，用来装东西
    private final LinkedList<T> queue = new LinkedList<>();

    public synchronized void put(T resource) throws InterruptedException {
        while (queue.size() >= 1) {
            // 队列满了，不能再塞东西了，轮询等待消费者取出数据
            System.out.println("生产者：队列已满，无法插入...");
            this.wait();
        }
        System.out.println("生产者：插入" + resource + "!!!");
        queue.addFirst(resource);
        this.notify();
    }

    public synchronized void take() throws InterruptedException {
        while (queue.size() <= 0) {
            // 队列空了，不能再取东西，轮询等待生产者插入数据
            System.out.println("消费者：队列为空，无法取出...");
            this.wait();
        }
        System.out.println("消费者：取出消息!!!");
        queue.removeLast();
        this.notify();
    }
}
复制代码

图片.png

对比WhileQueue做了哪些改进：

用synchronized保证原子性
wait和notify实现等待唤醒

图片.png

但一般推荐使用notifyAll（为什么？）。我们给测试程序再加一个生产者线程就知道了：

图片.png

开始不久后，整个程序所有线程都阻塞了

原因是：在synchronized机制下，所有等待的线程都在同一个队列里，而notify又恰巧是随机唤醒线程（也就是说，有可能生产者唤醒生产者）。

图片.png

最终结果是：所有线程都睡觉了...表现在程序上，就是卡住了。

解决办法是改用notifyAll，**把所有线程都唤醒，然后大家一起参与执行权的竞争。**你是否有疑问：如果和上面一样，生产者1还是唤醒生产者2呢？

其实这个假设不成立...使用notifyAll以后就不再是随机唤醒某一个线程了，而是唤醒所有线程并重新抢夺执行权。 也就是说，每一个线程在进入阻塞之前，都会叫醒其他所有线程！

等待唤醒机制：condition

wait/notify版本的缺点是随机唤醒容易出现“己方唤醒己方，最终导致全部线程阻塞”的乌龙事件，虽然wait/notifyAll能解决这个问题，但唤醒全部线程又不够精确，会造成无谓的线程竞争（实际只需要唤醒敌方线程即可）。

作为改进版，可以使用ReentrantLock的Condition替代synchronized的wait/notify：

/**
 * Condition版本
 */
public class ConditionQueue<T> {
    // 容器，用来装东西
    private final LinkedList<T> queue = new LinkedList<>();

    // 显式锁（相对地，synchronized锁被称为隐式锁）
    private final ReentrantLock lock = new ReentrantLock();
    private final Condition producerCondition = lock.newCondition();
    private final Condition consumerCondition = lock.newCondition();

    public void put(T resource) throws InterruptedException {
        lock.lock();
        try {
            while (queue.size() >= 1) {
                // 队列满了，不能再塞东西了，轮询等待消费者取出数据
                System.out.println("生产者：队列已满，无法插入...");
                // 生产者阻塞
                producerCondition.await();
            }
            System.out.println("生产者：插入" + resource + "!!!");
            queue.addFirst(resource);
            // 生产完毕，唤醒消费者
            consumerCondition.signal();
        } finally {
            lock.unlock();
        }
    }

    public void take() throws InterruptedException {
        lock.lock();
        try {
            while (queue.size() <= 0) {
                // 队列空了，不能再取东西，轮询等待生产者插入数据
                System.out.println("消费者：队列为空，无法取出...");
                // 消费者阻塞
                consumerCondition.await();
            }
            System.out.println("消费者：取出消息!!!");
            queue.removeLast();
            // 消费完毕，唤醒生产者
            producerCondition.signal();
        } finally {
            lock.unlock();
        }
    }
}
复制代码

如何理解Condition呢？你可以认为lock.newCondition()创建了一个队列，调用producerCondition.await()会把生产者线程放入生产者的等待队列中，当消费者调用producerCondition.signal()时会唤醒从生产者的等待队列中唤醒一个生产者线程出来工作。

图片.png

也就是说，ReentrantLock的Condition通过拆分线程等待队列，让线程的等待唤醒更加精确了，想唤醒哪一方就唤醒哪一方。

山寨版BlockingQueue

至此，大家应该对线程间通信有了大致了解。如果你仔细观察，会发现上面其实都采用了阻塞队列实现。我们都是先构造一个Queue，然后生产者和消费者直接操作Queue，至于是否阻塞，由Queue内部判断。这样封装的好处是，将生产者和消费者解耦的同时，不暴露过多细节，使用起来更简单。

大家应该都听过JDK的阻塞队列吧？基于上面的案例，我们改进一下，抽取出一个自定义的阻塞队列（使用wait/nofityAll实现）：

public class BlockingQueue<T> {

    // 模拟队列
    private final LinkedList<T> queue = new LinkedList<>();

    private int MAX_SIZE = 1;
    private int remainCount = 0;

    public BlockingQueue(int capacity) {
        if (capacity <= 0) {
            throw new IllegalArgumentException("size最小为1");
        }
        this.MAX_SIZE = capacity;
    }

    public synchronized void put(T resource) throws InterruptedException {
        while (queue.size() >= MAX_SIZE) {
            // 队列满了，不能再塞东西了，阻塞生产者
            System.out.println("插入阻塞...");
            this.wait();
        }
        queue.addFirst(resource);
        remainCount++;
        printMsg(resource, "被插入");
        this.notifyAll();
    }

    public synchronized T take() throws InterruptedException {
        while (queue.size() <= 0) {
            // 队列空了，不能再取东西了，阻塞消费者
            System.out.println("取出阻塞...");
            this.wait();
        }
        T resource = queue.removeLast();
        remainCount--;
        printMsg(resource, "被取出");
        this.notifyAll();
        return resource;
    }

    private void printMsg(T resource, String operation) throws InterruptedException {
        System.out.println(resource + operation);
        System.out.println("队列容量：" + remainCount);
    }
}
复制代码

图片.png

JDK BlockingQueue简介

虽然很多人开口闭口“阻塞队列”，但“阻塞队列”在他脑中只是个很模糊的概念。连“阻塞队列”的来龙去脉都不甚清楚，又怎么能说了解呢？

实际上，和List、Set一样，“阻塞队列”也有自己的一脉。在JDK的util包下有一个Queue接口：

图片.png

如果你继续往下扒，就会发现Queue和List其实很像，也是集合的一个分支罢了：

图片.png

为什么很多人会觉得阻塞队列（比如ArrayBlockingQueue）高大上，听起来比ArrayList牛逼呢？主要在于“阻塞”二字！因为大家不了解阻塞，自己也不知道怎么实现阻塞，所以会觉得阻塞队列很神秘，很牛逼。但仔细观察上面的继承关系你会发现，如果ArrayBlockingQueue没有实现BlockingQueue接口，那么它本应该是个普普通通的队列，而不是阻塞队列，也就没有那么惊艳了。

那么BlockingQueue做了啥呢？其实啥也没做，毕竟BlockingQueue只是个接口，而接口只能定义方法...就好比一栋摩天大厦建成了，楼顶有个空中泳池，你觉得很牛逼。那么，你觉得是当初说“我要楼顶有个大花园”的老板牛逼还是把这个方案实现的设计师牛逼呢？

扯远了，其实BlockingQueue继承Queue接口后，就定义了几个方法：

图片.png

BlockingQueue金口一开，后面的小弟只能满足，所以几个阻塞队列的实现类都有上面的几个方法。

图片.png

那么阻塞队列的“阻塞”是怎么实现的呢？以ArrayBlockingQueue为例，通过上面的继承关系分析，Queue和BlockingQueue是接口，里面只有方法定义没有具体实现，有可能实现“阻塞”功能的要么在AbstractQueue，要么就是ArrayBlockingQueue自身。我们查看AbstractQueue发现这家伙几乎啥都没写...

图片.png

也就是说，当初老板发话“我希望这个队列能阻塞”，经理微笑着满口答应，结果转手就交给3个小弟自己整了。好在3个小弟争气，还真给他们搞出来了...

常用的3个阻塞队列：

ArrayBlockingQueue
LinkedBlockingQueue
SynchronousQueue

还是以ArrayBlockingQueue为例，它是怎么实现阻塞的呢？

图片.png

好家伙...竟然用了ReentrantLock，这和我们上面案例中写的ConditionQueue好像啊！

图片.png

但是ArrayBlockingQueue只有notFull.await()，没看到signal()，不合理。仔细找找，唯一的可能是ArrayBlockingQueue把signal()藏在enqueue(e)方法里了：

图片.png

其他两个阻塞队列LinkedBlockingQueue和SynchronousQueue同理，也是用ReentrantLock实现阻塞的。

展望AQS

看到这里，相信阻塞队列在大家心中已经不再那么神圣了，有什么了不起啊，我们自己也能写啊，还用了好几种方式实现呢！但是扪心自问，阻塞队列总共也就：

阻塞
队列

而我们所谓的手写阻塞队列，其实是这样的：队列直接用了LinkedList，阻塞也是借用wait/notify和ReentrantLock实现的。也就是说，我们其实只是做了组装工作，拿现成的队列+阻塞功能拼出了一个阻塞队列。

世间路千万条，总有人不走寻常路。按理说现成的List+wait/notifyAll已经可以造出阻塞队列了，但就是有大佬不满足。

Doug Lea老爷子震惊的说：

What?! Why you don't say earlly ya! I have already finished the AQS le...

是的，又是这个男人，他整出了一个AQS，再把AQS塞到ReentrantLock中，最后用ReentrantLock+数组、ReentrantLock+链表、ReentrantLock+Transfer搞出了ArrayBlockingQueue、LinkedBlockingQueue和SynchronousQueue...阻塞队列只能算顺便的，他的初衷其实是利用AQS统一并简化锁的实现，屏蔽同步状态管理、阻塞线程的排队和通知、唤醒机制等，让后续的二次开发更简便。

换句话说：

如果你纠结于阻塞队列怎么实现，那你的格局就太小了...JDK的阻塞队列依赖于ReentrantLock，而ReentrantLock只是对AQS的浅封装，真正需要我们花功夫学习的其实有且只有AQS。

DP成长之路

关注

0
点赞
踩
4

收藏

觉得还不错? 一键收藏
0
评论
* 阻塞队列的作用及实现

前言提到阻塞队列，大家脑海中就会冒出：BlockingQueue ArrayBlockingQueue LinkedBlockingQueue SynchronousQueue但JDK阻塞队列本身是非常简单的，难的是阻塞队列内部的AQS。如果你之前对阻塞队列一无所知又恰好想要学习，希望能耐心看完下面的内容。还是那句话，学习阻塞队列的重点不是阻塞队列本身...我自己都可以手写阻塞队列。为了打破大家对阻塞队列“难”、“晦涩”、“神秘”的印象，我会从新的角度切入，重构大家对阻塞队列的认识。
复制链接

扫一扫