背景
今天看下Applying Back Pressure When Overloaded主要讲的是系统持续过载时的一种处理手段,核心观点限制队列长度(limit the queue size),从而为队列中的任务维持系统高吞吐率和良好的响应时间。
- Back Pressure,中文叫做背压,大概就是管道满了后给发送者一个反向压力的意思吧。
无边界队列的问题
系统容量是线程池大小和处理单个事务(transaction)速度的相关函数;线程池一般也是使用一个队列实现的,如果new ThreadPoolExecuter()时使用无边界队列的话,相当于对队列没有任何限制;系统过载时,队列无限增长可能超过内存大小,会出现缓存不命中,磁盘读等问题,最终导致系统响应时间变长甚至系统崩溃;
linux有一个overcommit机制,就是会对内存超售。malloc申请内存后,即使没有内存,也会返回成功;其他操作系统没这个机制;这样会导致系统过载后,不会立马crash,过一会会引发OOM killer,就会很糟糕。
系统分析
如下系统遵循