队列:队列在线程池等有限资源池中的应用

        当我们向一个固定大小的线程池中请求一个线程时,如果线程池中没有空闲的资源了,这个时候线程池如何处理这个请求?是拒绝请求还是排队请求?各种处理策略又是如何实现的?

1.如何理解“队列”?

        可以把它想象成排队买票,先来的先买,后来的人只能站在末尾,且不允许插队。先进者先出,后进者后出,这就是典型的“队列”。栈只支持两个操作:入栈push()和出栈pop()。队列跟栈非常相似,最基本的操作也是两个:入队enqueue(),放入一个数据到队列尾部;出队dequeue(),从队列头部取出一个元素。

       所以,队列跟栈一样,都是一种操作受限的线性表数据结构。

2.顺序队列和链式队列

        跟栈一样,队列可以用数组来实现也可以用链表来实现。用数组实现的队列叫做顺序队列,用链表实现的队列叫做链式队列。对于栈来说,只需要一个栈顶指针就可以了,但是队列需要两个指针:一个是head指针,指向队头;一个是tail指针,指向队尾。

2.1 基于数组的队列实现方法:

         当a,b,c,d依次进入队列以后,队列中的head指针指向下标为0的位置,tail指针指向下标为4的位置。

        当调用两次出队操作时,队列中head指针指向下标为2的位置,tail指针仍然指向下标为4的位置。

        随着不停的入队和出队操作,head和tail都会不断往后移动。当tail移动到最右边的时候,即使数组中还有空闲空间,也无法继续往队列中添加数据了。这个问题该如何解决呢?

        数据搬移可以解决这个问题。但是每次进行出队操作就相当于删除数组下标为0的数据,要搬移整个队列中的数据,这样出队操作的时间复杂度就会从原来的O(1)变成了O(n)。能不能进行优化?

       实际上,我们在出队时可以不用搬移数据。如果tail指针指向了队尾,再次进行入队的时候,再集中触发一次数据的搬移操作。

2.2 基于链表的队列实现方法:

       基于链表的实现,同样需要两个指针:head指针和tail指针。它们分别指向链表的第一个结点和最后一个结点。

      入队时:

tail->next = new_node
tail = tail->next

    出队时:

head = head->next

3 .循环队列

        原本数组是有头有尾的,是一条直线,我们现在把首尾相连,扳成了一个环。

        上图中这个队列大小为8,当前head=4,tail=7。当有一个新的元素a入队时,我们放入下标为7的位置。但这个时候不是把tail更新为8,而是将其在中环后移一位,到下标为0的位置。当再有一个元素b入队时,将b放入下标为0的位置,然后tail加1更新为1.所以在ab依次入队以后,循环队列中的元素就变成了下面这个样子:

        通过这个方法,可以避免数据搬移操作。看起来不难理解,但是循环队列的代码实现要比非循环队列难得多。要写好循环队列代码,最重要的是:确定好队空和队满的条件。

        在用数组实现的非循环队列中,队满的判断条件是tail=n,队空的判断条件是head=tail。那针对循环队列,如何判断队空和队满条件?

        队列为空的判断条件仍然为:head=tail,队满的判断条件稍微复杂。

        如上图的队满情况,tail=3,head=4,n=8。所以总结一下规律就是:(3+1)%8=4。所以当队满时,(tail+1)%n=head。当队满时,图中tail指向的位置实际上没有存储数据。所以循环队列会浪费一个数组的存储空间。

4. 阻塞队列和并发队列

        阻塞队列实际上就是在队列的基础上增加了阻塞操作。简单来说,就是在队列为空的时候,从队头取数据会被阻塞。因为此时还没有数据可取,直到队列中有了数据才能返回;如果队列已经满了,那么插入数据的操作就会被阻塞,直到队列中有空闲的位置后才能插入数据,然后再返回。

        使用阻塞队列,可以实现一个“生产者-消费者”模型。

        不仅如此,还可以通过阻塞队列,协调“生产者”和“消费者”的个数,来提高数据的处理效率。比如如下图,我们可以多配置几个“消费者”来应对一个生产者。

        在多线程的情况下,会有多个线程同时操作队列,这个时候就会存在线程安全问题,那么如何实现一个线程安全的队列呢?

        线程安全的队列,叫做并发队列。直接的实现方式就是直接在enqueue()、dequeue()的方法上加锁,但是锁粒度大并发度会比较低,同一时刻仅允许一个存或是取操作。基于数组的循环队列,利用CAS原子操作,可以实现非常高效的并发队列。这也是循环队列比链式队列应用更加广泛的原因。(目前还不是很清楚加锁的含义,也不知道CAS原子操作

5.线程池中没有空闲线程时,新的任务请求时,线程池如何处理?

       第一种:非阻塞的处理方式。直接拒绝任务请求

       第二种:阻塞的处理方式。等到有空闲线程时,取出排队的请求继续处理。

       如何存储排队请求呢?基于数组的顺序队列。

       实际上,对于大部分资源有限的场景,当没有空闲资源的时候,基本上都是可以通过“队列”这种数据结构来实现请请求排队。

 

 

 

 

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值