生产者和消费者模型介绍

python+ WEB开发 专栏收录该内容
78 篇文章 1 订阅

一、概念引入

日常生活中,每当我们缺少某些生活用品时,我们都会去超市进行购买,那么,你有没有想过,你是以什么身份去的超市呢?相信大部分人都会说自己是消费者,确实如此,那么既然我们是消费者,又是谁替我们生产各种各样的商品呢?当然是超市的各大供货商,自然而然地也就成了我们的生产者。如此一来,生产者有了,消费者也有了,那么将二者联系起来的超市又该作何理解呢?诚然,它本身是作为一座交易场所而诞生。

将上述场景例比到我们实际的软件开发过程中,经常会见到这样一幕:代码的某个模块负责生产数据(供货商),而生产出来的数据却不得不交给另一模块(消费者)来对其进行处理,在这之间我们必须要有一个类似上述超市的东西来存储数据(超市),这就抽象除了我们的生产者/消费者模型。 
其中,产生数据的模块,就形象地称为生产者;而处理数据的模块,就称为消费者;生产者和消费者之间的中介就叫做缓冲区

三者之间的结构图: 
这里写图片描述

为了方便理解,再列举一个寄信的例子: 
1、你把信写好——相当于生产者制造数据 
2、你把信放入邮筒——相当于生产者把数据放入缓冲区 
3、邮递员把信从邮筒取出——相当于消费者把数据取出缓冲区 
4、邮递员把信拿去邮局做相应的处理——相当于消费者处理数据

二、为什么要使用生产者消费者模型

归根结底来说,生产者消费者模式就是通过一个容器来解决生产者和消费者的强耦合问题。生产者和消费者彼此之间不直接通讯,而通过阻塞队列来进行通讯,所以生产者生产完数据之后不用等待消费者处理,直接扔给阻塞队列,消费者不找生产者要数据,而是直接从阻塞队列里取,阻塞队列就相当于一个缓冲区,平衡了生产者和消费者的处理能力。这个阻塞队列就是用来给生产者和消费者解耦的。

在线程世界里,生产者就是生产数据的线程,消费者就是消费数据的线程。在多线程开发当中,如果生产者处理速度很快,而消费者处理速度很慢,那么生产者就必须等待消费者处理完,才能继续生产数据。同样的道理,如果消费者的处理能力大于生产者,那么消费者就必须等待生产者。为了解决这种生产消费能力不均衡的问题,所以便有了生产者和消费者模式。

三、生产者/消费者模型的优点

1、解耦,即降低生产者和消费者之间的依赖关系。 
例如上述写信的例子,如果不使用邮筒(也就是缓区),你必须得把信直接交给邮递员。有同学会说,直接给邮递员不是挺简单的嘛?其实不简单,你必须得认识谁是邮递员,才能把信给他(光凭身上穿的制服,万一有人假冒,就惨了 )。这就产生和你和邮递员之间的依赖(相当于生产者和消费者的强耦合)。万一哪天邮递员换人了,你还要重新认识一下(相当于消费者变化导致修改生产者代码)。而邮筒相对来说比较固定,你依赖它的成本就比较低(相当于和缓冲区之间的弱耦合)。

2、支持并发,即生产者和消费者可以是两个独立的并发主体,互不干扰的运行。 
从寄信的例子来看。如果没有邮筒,你得拿着信傻站在路口等邮递员过来收(相当于生产者阻塞);又或者邮递员得挨家挨户问,谁要寄信(相当于消费者轮询)。不管是哪种方法,效率都比较低。

3、支持忙闲不均,如果制造数据的速度时快时慢,缓冲区可以对其进行适当缓冲。当数据制造快的时候,消费者来不及处理,未处理的数据可以暂时存在缓冲区中。等生产者的制造速度慢下来,消费者再慢慢处理掉。 
为了充分复用,我们再拿寄信的例子来说事。假设邮递员一次只能带走1000封信。万一某次碰上情人节(也可能是圣诞节)送贺卡,需要寄出去的信超过1000封,这时候邮筒这个缓冲区就派上用场了。邮递员把来不及带走的信暂存在邮筒中,等下次过来时再拿走。

四、生产者/消费者模型的记忆原则

为了方便记忆,我对其进行了如下总结: 
三二一原则:三种关系、两个角色、一个场所 
三种关系: 
1生产者与生产者(互斥) 
2生产者与消费者(同步与互斥) 
3消费者与消费者(互斥) 
两个角色: 
1生产者 
2消费者 
一个场所: 
1缓冲区

五、生产者/消费者模型的学习旅程

1、确定数据单元 
★啥是数据单元 
向缓冲区拿放数据的一个基本数据单元。简单地说,每次生产者放到缓冲区的,就是一个数据单元;每次消费者从缓冲区取出的,也是一个数据单元。 
★数据单元的特性 
◇关联到业务对象:数据单元必须关联到某种业务对象 
◇完整性:保证每一个数据单元的完整 
◇独立性:各个数据单元之间没有互相依赖 
◇颗粒度:业务对象和数据单元之间的对应比例

2、学习队列缓冲区 
★线程方式 
◇内存分配的性能:内存分配的开销问题—->环形缓冲区 
◇同步和互斥的性能:例如信号量、互斥量等的开销—->双缓冲区 
◇适用于队列的场合:适用于数据流量不是很大的场合 
★进程方式 
◇匿名管道:生产者进程在管道的写端放入数据;消费者 
进程在管道的读端取出数据。 
好处: 
1》跨平台发方便。 
2》跨语言方便。 
3》有利于降低开发、调试成本。 
不足: 
1》生产者进程和消费者进程必须得在同一台主机上,无法跨机器通讯。 
2》只适用于一对一通信。 
3》在某些情况下,程序不便于对管道进行操纵(比如调整管道缓冲区尺寸)。 
4》只能单向通信。 
◇SOCKET(TCP方式):类似IPC方式,同样保证了 
数据的顺序到达;同样有缓冲的机制。 
优点: 
1》可以跨机器(便于实现分布式)。 
2》便于将来扩展成为多对一或者一对多。 
3》可以设置阻塞和非阻塞方法,用起来比较灵活。 
4》支持双向通讯,有利于消费者反馈信息。 
不足: 
编程复杂。 
虽然TCP在很多方面比UDP可靠,但鉴于跨机器通讯先天的不可预料性,可以在生产者进程和消费者进程内部各自再引入基于线程的”生产者/消费者模式”。 
这里写图片描述

3、学习环形缓冲区: 
★环形缓冲区与队列缓冲区 
◇外部接口相似:它也有一个写入端(用于push)和⼀一个读出端(用于pop),也有缓冲区“满”和“空”的状态。 
◇内部结构迥异: 
这里写图片描述 
从上图可以看出,环形缓冲区所有的push和pop操作都是在一个固定的存储空间内进行。而队列缓冲区在push的时候,可能会分配存储空间用于存储新元素;在pop时,可能会释放废弃元素的存储空间。 
★环形缓冲区的实现 
◇数组方式 和链表方式 
◇读写操作 
◇判断“空”和“满” 
★应用场合 
◇用于并发线程 
◇用于并发进程

4、学习双缓冲区... 
此处略去,有兴趣者可自行研究

  • 4
    点赞
  • 2
    评论
  • 10
    收藏
  • 一键三连
    一键三连
  • 扫一扫,分享海报

©️2021 CSDN 皮肤主题: 技术黑板 设计师:CSDN官方博客 返回首页
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值