吞吐量、QPS、并发数等概念

开发原因需要了解吞吐量(TPS)、QPS、并发数、响应时间(RT)等概念如下:

1。响应时间(RT)

响应时间是指系统响应请求的时间。直觉上，这个指标非常符合人们对软件性能的主观感受，因为它完整地记录了整个计算机系统的处理时间。由于一个系统通常提供多种功能，不同功能的处理逻辑差异很大，不同功能的响应时间也不一样，甚至同一功能在不同输入数据下的响应时间也不一样。因此，在讨论一个系统的响应时间时，人们通常指的是系统所有功能的平均时间或所有功能的最大响应时间。当然，对于每个函数或函数组，通常需要讨论平均响应时间和最大响应时间。对于没有并发操作的单应用系统，一般认为响应时间是一个合理准确的性能指标。需要指出的是，响应时间的绝对值并不直接反映软件的性能，实际上取决于用户对响应时间的接受程度。对于一个游戏软件来说，100毫秒以内的响应时间应该是不错的，1秒左右的响应时间可能勉强可以接受，如果响应时间达到3秒的话，完全不能接受。对于编译系统来说，完全编译一个大型软件的源代码可能需要几十分钟甚至更长的时间，但是这些响应时间是用户可以接受的。

2. 吞吐量(Throughput)

对于多用户系统，如果只有一个用户，系统的平均响应时间为t，当有n个用户时，每个用户看到的响应时间通常不是n×t，而是往往比n×t小很多(当然，在某些特殊情况下，可能会比n×t大很多，甚至大很多)。这是因为处理每个请求都需要大量的资源，而且由于处理过程中很多请求很难并发执行，所以在特定的时间点往往占用很少的资源。也就是说，在处理单个请求时，许多资源可能在每个时间点都是空闲的。在处理多个请求时，如果资源分配合理，每个用户看到的平均响应时间不会随着用户数量的增加而线性增