一文理解java多线程之生产者消费者模型(三种实现)

本文详细介绍了生产者消费者模型的基本概念,如何使用synchronized+wait/notify实现缓冲区,以及lock+condition和阻塞队列的实现方式,强调了它们在处理多线程并发中的同步与互斥策略。
摘要由CSDN通过智能技术生成

生产者消费者模型

本文目录

  • 生产者消费者模型
    • 基本介绍
    • 实现思路
    • synchronized + wait + notify实现
      • 缓冲区
      • 生产者
      • 消费者
      • 测试代码
      • 思考
    • lock + condition实现
      • 缓冲区
      • 生产者、消费者、测试代码
    • 阻塞队列实现
      • 缓冲区
      • 生产者、消费者、测试代码
      • 思考
    • 总结

基本介绍

什么是生产者消费者模型?

在这里插入图片描述
生产者和消费者之间通过一个缓冲区来进行交互,生产者负责生成数据,然后存入缓冲区;消费者则负责消费数据,从缓冲区获取。生产者和消费者只和缓冲区交互,没有直接联系。

其中的同步互斥关系:

  • 生产者之间互斥,消费者之间也互斥

  • 生产者与消费者之间既又同步也有互斥(缓冲区满时,只能消费完再生产;缓冲区空时,只能生产完再消费)

注意:缓存区要先进先出,所以一般用队列实现

为什么要用生产者-消费者模型?

  • 缓解生产者与消费者的速度差异:只能生产一个、再消费一个这样轮换的话,如果生产者和消费者速度差异很大,就会造成等待时间过长的问题。此时可以用一个缓冲区用来存储生产者生产的数据。
  • 解耦:生产者消费者之间没有直接联系,代码不会相互影响

实现思路

多个线程同时对一个资源类进行操作,会并发执行里面的方法。书写代码的时候最好让资源类的线程类分开书写,降低代码的耦合性,资源类只负责填入属性和方法,而线程类负责调用它里面的方法。

对于生产者消费者问题,需要定义三个类:生产者线程类、消费者线程类、缓冲资源类(核心)

  • 缓冲资源类:负责维护一个缓冲区,并且提供一个生产资源的方法、一个消费资源的方法(互斥)
  • 生产者:负责通过缓冲区资源类提供的方法去生产资源
  • 消费者:负责通过缓冲区资源类提供的方法去消费资源

synchronized + wait + notify实现

缓冲区

package 线程基础.生产者消费者模型.synchronized_wait_notify版本;

import java.util.LinkedList;

public class BufferResources {
    private int maxSize = 10;
    //这里用list作为缓冲区,也可以替换为队列
    private LinkedList list = new LinkedList<Integer>();

    public synchronized void consume() {
        while (list.size() == 0) {
            System.out.println(Thread.currentThread().getName() + " 当前缓冲区为空,等待生产中...");
            try {
                wait();
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
        }
        //消费数据,从First开始消费,模拟队列
        Integer value = (Integer) list.removeFirst();
        System.out.println(Thread.currentThread().getName() + " 消费成功:" + value.toString() + " 当前缓冲区size = " + list.size());
        //唤醒所有处于wait状态的线程(包括生产者和消费者)
        notifyAll();
    }

    public synchronized void product(Integer value){
        while (list.size() == maxSize) {
            System.out.println(Thread.currentThread().getName() + " 当前缓冲区满了,等待消费中...");
            try {
                wait();
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
        }
        //生产数据
        list.add(value);
        System.out.println(Thread.currentThread().getName() + " 生产成功:" + value.toString() + " 当前缓冲区size = " + list.size());
        //唤醒所有处于wait状态的线程(包括生产者和消费者)
        notifyAll();
    }
}

生产者

package 线程基础.生产者消费者模型.synchronized_wait_notify版本;

import java.util.Random;

public class Producter extends Thread {
    private BufferResources bufferResources;
    Random random = new Random();

    //构造时需要指定缓冲区
    public Producter(BufferResources bufferResources) {
        this.bufferResources = bufferResources;
    }

    @Override
    public void run() {
        //生产
        this.bufferResources.product(random.nextInt());
    }
}

消费者

package 线程基础.生产者消费者模型.synchronized_wait_notify版本;

public class Consumer extends Thread {
    private BufferResources bufferResources;

    //构造时需要指定缓冲区
    public Consumer(BufferResources bufferResources) {
        this.bufferResources = bufferResources;
    }

    @Override
    public void run() {
        this.bufferResources.consume();
    }
}

测试代码

package 线程基础.生产者消费者模型;

public class Test {
    public static void main(String[] args) {
        BufferResources bufferResources = new BufferResources();
        //十个生产者线程
        for (int i = 0; i < 10; i++) {
            new Producter(bufferResources).start();
        }
        //十个消费者线程
        for (int i = 0; i < 10; i++) {
            new Consumer(bufferResources).start();
        }

    }
}

测试结果

生产者消费者交错进行生产消费,不会相互影响,资源类的数据一致性得到保证

在这里插入图片描述

思考

上述判断缓冲区是否为满或者空的语句为什么用while循环判断,而不是用if判断?

为了避免虚拟唤醒问题,也就是notifyAll之后,所有线程被唤醒,有可能出现先执行的线程使得后面的线程的不再满足运行条件的现象,如果直接结束wait会造成逻辑错误。具体可参考百度。

上述的唤醒为什么要用notifyAll?而不用notify?

因为notify只会唤醒一个线程去竞争锁,当生产者刚生产完使得缓冲区满的时候,如果又唤醒了一个生产者线程,那程序就会死锁,也叫假死问题

用notifyAll真的合理吗?

其实不合理,因为按照逻辑来说,每生产完一个资源后,应该唤醒消费者去消费,而不需要把生产者也唤醒(消费资源也一样,不需要再唤醒消费者)。这个问题可通过如下的condition实现方式来解决。

lock + condition实现

缓冲区

package 线程基础.生产者消费者模型.lock_condition版本;

import java.util.LinkedList;
import java.util.concurrent.locks.Condition;
import java.util.concurrent.locks.Lock;
import java.util.concurrent.locks.ReentrantLock;

public class BufferResources {
    private int maxSize = 10;
    //这里用list作为缓冲区,也可以替换为队列
    private LinkedList list = new LinkedList<Integer>();
    //创建锁
    private Lock lock = new ReentrantLock();
    //生产者对应Condition
    private Condition producerCondition = lock.newCondition();
    //消费者对应Condition
    private Condition consumerCondition = lock.newCondition();


    public void consume() {
        lock.lock();
        try{
            while (list.size() == 0) {
                System.out.println(Thread.currentThread().getName() + " 当前缓冲区为空,等待生产中...");
                try {
                    //消费者进入等待状态
                    consumerCondition.await();
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
            }
            //进行消费数据,从First开始消费,模拟队列
            Integer value = (Integer) list.removeFirst();
            System.out.println(Thread.currentThread().getName() + " 消费成功:" + value.toString() + " 当前缓冲区size = " + list.size());
            //消费完毕后,只唤醒生产者
            producerCondition.signalAll();
        }catch (Exception e){
            e.printStackTrace();
        }finally {
            //一定要用finally执行解锁
            lock.unlock();
        }
    }

    public void product(Integer value){
        lock.lock();
        try{
            while (list.size() == maxSize) {
                System.out.println(Thread.currentThread().getName() + " 当前缓冲区满了,等待消费中...");
                //生产者进入等待状态
                producerCondition.await();
            }
            //进生产数据
            list.add(value);
            System.out.println(Thread.currentThread().getName() + " 生产成功:" + value.toString() + " 当前缓冲区size = " + list.size());
            //生产完毕后,只唤醒消费者
            consumerCondition.signalAll();
        }catch (Exception e){
            e.printStackTrace();
        }finally {
            //一定要用finally执行解锁
            lock.unlock();
        }
    }
}

生产者、消费者、测试代码

与之前的版本完全一致

测试结果

生产者消费者交错进行生产消费,不会相互影响,资源类的数据一致性得到保证

在这里插入图片描述

分析:用lock的condition实现的好处就是能实现精准地唤醒一类线程

阻塞队列实现

上述的缓冲区都是通过LinkedList简单模拟队列来实现的,但实际上比较常用的是阻塞队列(代码简单),因为它内部已经实现了数据操作的阻塞和互斥功能,具体如下:

  • 如果队列已满,再进行插入则会阻塞,直到队列不满才会被唤醒,然后才能插入
  • 如果队列为空,再进行删除也会进入阻塞,直到队列不为空才被唤醒,然后才能删除

也就是说,生产和消费的代码只需要用阻塞队列进行插入和删除,不需要写额外的互斥和阻塞逻辑了

缓冲区

package 线程基础.生产者消费者模型.阻塞队列版本;

import java.util.concurrent.BlockingQueue;
import java.util.concurrent.LinkedBlockingQueue;

public class BufferResources {
    private int maxSize = 10;
    //阻塞队列作为缓冲区
    private BlockingQueue buffer = new LinkedBlockingQueue(maxSize);

    public void consume() {
        try {
            Integer value = (Integer) buffer.take();
            System.out.println(Thread.currentThread().getName() + " 消费成功:" + value.toString() + " 当前缓冲区size = " + buffer.size());
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
    }

    public void product(Integer value) {
        try {
            buffer.put(value);
            System.out.println(Thread.currentThread().getName() + " 生产成功:" + value.toString() + " 当前缓冲区size = " + buffer.size());
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
    }
}

生产者、消费者、测试代码

与之前的版本完全一致

测试结果

在这里插入图片描述

思考

阻塞队列怎么实现阻塞和互斥逻辑的?

其实和我们之前自己实现的思路一样,参考如下LinkedBlockingQueue的put插入源码

在这里插入图片描述

总结

三种方式实现生产者消费者模型:

  • 用synchronized、wait、notify实现:不能实现精准唤醒,可能出现假死现象(用notify而不是notifyall时)
  • 用lock、condition实现:多个condition配合可以实现精准的唤醒
  • 用阻塞队列实现:代码简单,但需要理解其中阻塞和互斥的原理
回答: 在使用kafka生产者时,可能会遇到一些问题和坑。首先,需要注意的是kafka的生产者API。这个API是kafka中最常用的API之一,它允许我们从客户端的角度发送消息到kafka集群。\[1\]在使用生产者API时,我们需要熟悉kafka的基础概念,并且了解一些可能会用到的术语。\[2\]另外,一个常见的问题是幂等生产者。幂等生产者是kafka事务的必要条件,但不是充分条件。也就是说,开启幂等生产者不一定需要开启事务,但是开启kafka事务时必须要开启幂等生产者。实际上,当开启kafka事务时,kafka会自动开启幂等生产者。关于kafka事务的详细介绍可以在下一篇博文中了解到。\[3\]在使用kafka生产者时,还需要注意一些其他的技术细节和配置,以确保其简洁性和高性能。 #### 引用[.reference_title] - *1* *2* [Kafka :生产者深度实践总结](https://blog.csdn.net/yujia_666/article/details/115936336)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [一文读懂kafka的幂等生产者](https://blog.csdn.net/MichaelLi916/article/details/120190986)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值