系统设计 | 异步 - 背压机制(back pressure)

背景

今天看下Applying Back Pressure When Overloaded主要讲的是系统持续过载时的一种处理手段，核心观点限制队列长度(limit the queue size)，从而为队列中的任务维持系统高吞吐率和良好的响应时间。

• Back Pressure，中文叫做背压，大概就是管道满了后给发送者一个反向压力的意思吧。

无边界队列的问题

系统容量是线程池大小和处理单个事务(transaction)速度的相关函数；线程池一般也是使用一个队列实现的，如果new ThreadPoolExecuter()时使用无边界队列的话，相当于对队列没有任何限制；系统过载时，队列无限增长可能超过内存大小，会出现缓存不命中，磁盘读等问题，最终导致系统响应时间变长甚至系统崩溃；

linux有一个overcommit机制，就是会对内存超售。malloc申请内存后，即使没有内存，也会返回成功；其他操作系统没这个机制；这样会导致系统过载后，不会立马crash，过一会会引发OOM killer，就会很糟糕。

系统分析

如下系统遵循