生产者/消费者模式(阻塞队列) 一个经典的并发模型

原创 2016年05月30日 22:57:01

生产消费者模式也是关于线程阻塞的问题,生产消费者模式是通过观察者模式来实现的。之前在编写一个通讯软件的时候用到了这种模式,通过维护一个BlockingQueue来完成Socket的消息发送,后来读书时看到在服务器开发时三层模型中的Service层在调用Dao层的时候也是通过这种模式来调用的,具体怎么使用的还没有具体实践过,期待后面可以有机会练习这一块。

实际的软件开发过程中,经常会碰到如下场景:某个模块负责产生数据,这些数据由另一个模块来负责处理(此处的模块是广义的,可以是类、函数、线程、进程等)。产生数据的模块,就形象地称为生产者;而处理数据的模块,就称为消费者。
 
单单抽象出生产者和消费者,还够不上是生产者/消费者模式。该模式还需要有一个缓冲区处于生产者和消费者之间,作为一个中介。生产者把数据放入缓冲区,而消费者从缓冲区取出数据。

  • 解耦
      假设生产者和消费者分别是两个类。如果让生产者直接调用消费者的某个方法,那么生产者对于消费者就会产生依赖(也就是耦合)。将来如果消费者的代码发生变化,可能会影响到生产者。而如果两者都依赖于某个缓冲区,两者之间不直接依赖,耦合也就相应降低了。
      
  • 支持并发(concurrency)
      生产者直接调用消费者的某个方法,还有另一个弊端。由于函数调用是同步的(或者叫阻塞的),在消费者的方法没有返回之前,生产者只好一直等在那边。万一消费者处理数据很慢,生产者就会白白糟蹋大好时光。
      使用了生产者/消费者模式之后,生产者和消费者可以是两个独立的并发主体(常见并发类型有进程和线程两种,后面的帖子会讲两种并发类型下的应用)。生产者把制造出来的数据往缓冲区一丢,就可以再去生产下一个数据。基本上不用依赖消费者的处理速度。其实当初这个模式,主要就是用来处理并发问题的。
      
  • 支持忙闲不均
      缓冲区还有另一个好处。如果制造数据的速度时快时慢,缓冲区的好处就体现出来了。当数据制造快的时候,消费者来不及处理,未处理的数据可以暂时存在缓冲区中。等生产者的制造速度慢下来,消费者再慢慢处理掉。

用了两种方式实现了一下这个模式

1.方法一:

消费者:

public class TestConsumer implements Runnable {
    TestQueue queue;

    public TestConsumer() {
        // TODO Auto-generated constructor stub
    }

    public TestConsumer(TestQueue obj) {
        this.queue = obj;
    }

    @Override
    public void run() {
        for (int i = 0; i < 10; i++) {
            try {
                queue.consumer();
            } catch (Exception e) {
                e.printStackTrace();
            }
        }

    }

}

生产者:

public class TestProduct implements Runnable {
    TestQueue t;

    public TestProduct() {

    }

    public TestProduct(TestQueue t) {
        this.t = t;
    }

    public void run() {
        for (int i = 0; i < 10; i++) {
            try {
                t.product("test" + i);
            } catch (Exception e) {
                e.printStackTrace();
            }
        }
    }
}

队列:

public class TestQueue {
    public static Object signal = new Object();
    boolean bFull = false;
    private List thingsList = new ArrayList();

    /**
     * 生产
     * 
     * @param thing
     * @throws Exception
     */
    public void product(String thing) throws Exception {
        synchronized (signal) {
            if (!bFull) {
                bFull = true;
                System.out.println("product");
                thingsList.add(thing);
                signal.notify(); // 然后通知消费者
            }
        }
    }

    /**
     * 消费
     * 
     * @return
     * @throws Exception
     */
    public String consumer() {
        synchronized (signal) {
            if (!bFull) {
                // 队列为空。等待.....
                try {
                    signal.wait();
                } catch (InterruptedException e) {
                    // TODO Auto-generated catch block
                    e.printStackTrace();
                } // 进入signal待召队列,等待生产者的通知
            }
            bFull = false;
            // 读取buf 共享资源里面的东西
            System.out.println("consume");
            signal.notify(); // 然后通知生产者
        }
        String result = "";
        if (thingsList.size() > 0) {
            result = thingsList.get(thingsList.size() - 1).toString();
            thingsList.remove(thingsList.size() - 1);
        }
        return result;
    }
}

测试代码:

public class Application {
    @Test
    public void test(){
        TestQueue queue = new TestQueue();
        Thread customer = new Thread(new TestConsumer(queue));
     Thread product = new Thread(new TestProduct(queue));
     customer.start();
     product.start();
    }
}

2.方法二:

使用java.util.concurrent.BlockingQueue类来重写的队列那个类,使用这个方法比较简单。直接看JDK提供的demo

class Producer implements Runnable {  
   private final BlockingQueue queue;  
   Producer(BlockingQueue q) { queue = q; }  
    public void run() {  
      try {  
        while(true) { queue.put(produce()); }  
      } catch (InterruptedException ex) { ... handle ...}  
    }  
    Object produce() { ... }  
  }  

  class Consumer implements Runnable {  
    private final BlockingQueue queue;  
    Consumer(BlockingQueue q) { queue = q; }  
    public void run() {  
      try {  
        while(true) { consume(queue.take()); }  
      } catch (InterruptedException ex) { ... handle ...}  
    }  
    void consume(Object x) { ... }  
  }  

  class Setup {  
    void main() {  
      BlockingQueue q = new SomeQueueImplementation();  
      Producer p = new Producer(q);  
      Consumer c1 = new Consumer(q);  
      Consumer c2 = new Consumer(q);  
      new Thread(p).start();  
      new Thread(c1).start();  
      new Thread(c2).start();  
    }  
 }  

在JDK1.5以上使用了Lock锁来实现:

    class BoundedBuffer {  
      final Lock lock = new ReentrantLock();  
      final Condition notFull  = lock.newCondition();   
      final Condition notEmpty = lock.newCondition();   

      final Object[] items = new Object[100];  
      int putptr, takeptr, count;  

      public void put(Object x) throws InterruptedException {  
        lock.lock();  
        try {  
          while (count == items.length)   
            notFull.await();  
          items[putptr] = x;   
          if (++putptr == items.length) putptr = 0;  
          ++count;  
          notEmpty.signal();  
        } finally {  
          lock.unlock();  
        }  
      }  

      public Object take() throws InterruptedException {  
        lock.lock();  
        try {  
          while (count == 0)   
            notEmpty.await();  
          Object x = items[takeptr];   
          if (++takeptr == items.length) takeptr = 0;  
          --count;  
          notFull.signal();  
          return x;  
        } finally {  
          lock.unlock();  
        }  
      }   
    }  
版权声明:本文为博主原创文章,未经博主允许不得转载。

【消息队列】ActiveMQ的简单实例 - 生产者消费者模式

安装首先,需要去官网下载windows版本(如果使用的是Linux,就下载对应Linux的)的ActiveMQ并安装,下载地址下载完后解压缩,进入bin目录,打开一个控制台,输入:activemq.b...

高并发:阻塞队列 实现生产者-消费者模式

首先介绍一下非阻塞队列,比如PriorityQueue、LinkedList。在使用非阻塞队列时遇到的问题:不会对当前线程产生阻塞,在面对类似消费者-生产者的模型时,必须额外地实现同步策略以及线程间唤...

实现一个生产者消费者队列

题目:实现一个队列。  队列的应用场景为:  一个生产者线程将int类型的数入列,一个消费者线程将int类型的数出列 。 先做一个线程同步概述:...

生产者-消费者-信号量-共享内存-循环队列

代码转自别处,稍有修改,主要是宏定义,我觉得不够直观的地方给改了,逻辑没变 用信号量来控制队列 #include #include #include #include #include #i...

环形缓冲区的设计及其在生产者消费者模式下的使用(并发有锁环形队列)

http://www.cnblogs.com/zengzy/p/5139582.html 1、环形缓冲区 缓冲区的好处,就是空间换时间和协调快慢线程。缓冲区可以用很多设计法,这...

RabbitMq六种使用模式(2)_多个消费者

RabbitMq六种使用模式(2)

关于生产者/消费者/订阅者模式的那些事

生产者/消费者模式简介用来干嘛的?生产者/消费者模式的产生主要目的就是为了解决非同步的生产与消费之间的问题。什么是非同步呢? 比如我刚刚生产了某个产品,而此时你正在打游戏,没空来取,要打完游...

生产者/消费者模式之深入理解

★简介    在实际的软件开发过程中,经常会碰到如下场景:某个模块负责产生数据,这些数据由另一个模块来负责处理(此处的模块是广义的,可以是类、函数、线程、进程等)。产生数据的模块,就形象地称为生产者...

循环队列 - 生产者与消费者模型

循环队列可以实现一个生产者与一个消费者模型, 不使用锁。   循环队列:size=10 生产者线程:不停地把从0递增的整数push到队列(尾部不存储,也就是最大存9个数),满了就等1s。 消费者线程:...

网络爬虫:分离生产者和消费者来优化爬虫程序

基于前面的一些工作(可参见笔者前面的相关博客),我们取得了一些成果。不过存在的问题又总是会让人坐立不安。本文通过分离生产者、消费者以及引入连接池技术来优化爬虫程序。解决前面说到的数据库连接数过大、程序...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:生产者/消费者模式(阻塞队列) 一个经典的并发模型
举报原因:
原因补充:

(最多只允许输入30个字)