排队理论分析

转载请附本文链接：https://blog.csdn.net/maxlovezyy/article/details/104038481

先上结论：当消费方队列足够长时，如果生产能力大于消费能力，那么在某一时刻消费方必定会对外表现出雪崩的状况， 即所有请求都失败。

假设有两个系统P(producer)和C(consumer)，P是生产方，C是消费方，P-throughput(producer throughput)为P的生产能力，C-throughput为C的消费能力，C-workers(consumer work units)为C的最大并行工作单元，P-req-lifetime为P侧单个请求的生命周期，P-req-deadline为P侧设定的单个请求的死亡线。下面根据C侧有无待处理任务队列对任务处理情况做分析：

• C无队列：根据生产消费能力不同分两种情况
  • P-throughput <= C-throughput
    这种情况下P的所有请求都会成功，因为所有P的请求都有C-workers能为其服务。当C-workers性能出现负向抖动时，等价于C-throughput降低了，情况参考下一个case。
  • P-throughput > C-throughput
    这种情况下P产生的超过C-workers数量的请求会被直接拒绝掉。这种情况下没有任何问题，在外部看来C也不可能出现雪崩，因为C所接受的请求都是会执行成功的，系统运行良好。至于消费能力不足的问题是另一个问题。
• C有队列：依然根据生产消费能力不同分两种情况
  • P-throughput <= C-throughput
    这种情况和C无队列的相同情况case一样。
  • P-throughput > C-throughput
    这种情况下C的队列会从0开始逐渐增长，如果C的队列容量无限大，那么C的队列长度会无限增长。由于C-workers是给定的，所以过程中一定会在等待队列达到某个长度(C-throughput * P-req-lifetime)时，开始有请求的P-req-deadline大于当前时间。而一旦出现这种情况，P侧就会判定请求超时，要么重试，要么放弃，而无论哪一种情况，这种已经到达P-req-deadline的请求都是无意义的请求了。假设C没有其他机制，那么P的对外表现就是完全死掉了，没有任何一个请求会成功。另外，可以看出，随着队列的增长，一旦队列长度超过C-workers，队列中的请求的处理总时长也会增加(入队到出队时间逐渐增加)。

所以可以看出，只要保证队列长度小于C-throughput * P-req-lifetime，就能保证C不会出现雪崩。实际实现的时候还需要考虑比如并发个数等维度来保证 QoS。

看完本文，是不是觉得限流、熔断、计算机网络的拥塞控制、网络中间设备的尾部丢弃策略都是一脉相承？