用Little‘s Law理解系统的QPS、耗时、并发数

      今天是大年三十，没有回湖北的家。希望亲朋好友们一切安好，平安幸福。家里应该正在吃肉糕了吧, 挺好吃的。

      最近肺炎疫情还是挺严重的，奋战在一线的医护人员辛苦了，致敬您们。也想到了第一次听到“希波克拉底誓言”时的那种感动，也想起了林则徐那句话：苟利国家生死以，岂因祸福避趋之！

      响应号召，哪里也不去，就宅在家里。

      来看这样一个问题：假设超市每分钟有10个人走出来，请估算超市里面有多少人？

      这个问题的准确答案不重要，关键是思路。看完本文后，应该就能大致估算出来。

      我们先看Little's Law：

      在一个稳定的系统中，设长时间观察到的平均顾客数量为L，长时间观察到的有效到达速率为λ，平均每个顾客在系统中花费的时间是W，则有如下关系式：

      L = λW

Little's Law的理解

      实际上，Little's Law很好理解。假设有一水管，横截面积为2平方米，水速为5米/秒，即水的流量速度是10立方米/秒，很显然： 

      在长度100米的水管内，水量为200立方米，每滴水从流入到流出，耗时20秒，而水的流量速度是10立方米/秒，也就是说，在这段水管中：

      水量= 耗时 * 流量速度

      这就是Little's Law. 虽然很早就意识到了这一关系式，但有点可笑的是，毕业后才第一次听说Little's Law.

Little's Law的应用

      Little's Law模型很通用，因此，在很多场景中都能得到应用，比如工业界和计算机界，都会有意或无意用到该定律。       

      先看一个最好懂的例子：大一新生的招收速度是5000人/年，每个学生在大学停留4年，因此，整个大学的人数就是20000.

      

      再看腾讯公司2012年的一道笔试题目，简单但难倒不少人：

      这个题目中的图是多余的，有误导性。很显然，根据Little's Law，答案是42.

QPS、耗时、并发数

       在后台开发中，经常要涉及到QPS、耗时和并发数这些概念。对于测试同学而言，经常需要进行压力测试，所以，也有必要深入理解这些概念。其中，QPS和并发数尤其容易混淆，比如：1秒内并发地来了100个请求，这个100是QPS还是并发数？ 我们来看看它们的含义：

       QPS: 请求进入的速度

       耗时: 请求停留的时间

       并发数: 系统中同时存在的请求数

       根据Little's Law，我们能得到如下的关系式：

       并发数 = QPS * 耗时

       以大学招生为例：大一新生的招收速度是5000人/年，每个学生在大学停留4年，整个大学的人数是20000，于是(下面的QPS改为以年为单位)：

QPS	耗时	并发数
5000人/年	4年	20000人

       以某公司为例：180000员工，必须早上8:30-9:00之间在考勤系统签到，每次签到在系统需要停留0.1秒，于是：

QPS	耗时	并发数
100人/秒	0.1秒	10人

       以动物园为例：每秒有1个人进入动物园，每个人在动物园中停留2小时，于是：

QPS	耗时	并发数
1人/秒	2*3600秒	7200人

       假设在理想情况下，某系统的请求进入速度是1亿次/秒，系统处理的时间趋近为0，那么这个系统的并发量是多少呢？很显然：

QPS	耗时	并发数
1亿次/秒	趋近0	趋近0次

       可见，虽然每秒有1亿次请求，但在某一随机时刻观察系统，会发现系统中不存在请求堆积的问题，系统的并发数趋近0.

       这是一个高QPS、低延时系统，是一个很好的系统，轻轻松松地快速处理各种请求，来一个灭一个。值得一提的是，此时并发数很低，但这不表明系统实际能够承受的并发数很低，它实际上可能承受很高的并发数。

       最后，我们来看下某系统的压测数据，满足Little's Law：

       并发数 = QPS * avg

       到此为止，应该清楚了QPS、耗时和并发数的含义，以后在开发或压测时候，再也不会懵圈了。