架构与思维：互联网高并发架构

一、什么是高并发

　　在互联网行业中，我们时常会面临着流量巨大且复杂的分布式场景。这要求我们在设计系统时，既要保证系统具有承载高并发的能力，同时能够保证系统的高可用性。所以具备高并发架构是要通过稳健的系统设计能力，来保证系统能处理复杂业务场景的同时，也能保证性能稳定性、可用性的架构体系。

        高并发相关常用的一些指标有响应时间，吞吐量，并发用户数，每秒请求数QPS、每秒事务数TPS等，如下：

➢响应时间：系统对请求作出响应的时间，对于单用户的系统，相应时间可以很好地度量系统的性能，例如系统处理一个HTTP请求需要200ms，这个200ms就是系统的响应时间。

➢吞吐量：系统在单位时间内处理请求的数量，对于并发系统，通常需要用吞吐量作为性能指标。

➢并发用户数：同时承载正常使用系统功能的用户数量。例如一个即时通讯系统，同时在线量一定程度上代表了系统的并发用户数。与吞吐量相比，并发用户数是一个更直观但也更笼统的性能指标。实际上，并发用户数是一个非常不准确的指标，因为用户不同的使用模式会导致不同用户在单位时间发出不同数量的请求。

➢TPS：吞吐量的常用量化指标，应用于特定场景的吞吐量。

➢QPS：每秒响应请求数。在互联网领域，这个指标和吞吐量区分没有这么明显。

二、如何提升系统的性能指标

　　在互联网分布式架构设计，提高系统并发能力的方式，方法论上主要有两种：垂直扩展(Scale Up)与水平扩展(Scale Out)。

　　1. 垂直扩展(Scale Up)

  　　  (1)提升单机硬件性能，通过将内存、CPU、硬盘等升级到更高的配置来扩大系统的能力;

   　　 (2)提升单机架构性能，例如：使用Cache来减少IO次数，使用异步来增加单服务吞吐量，使用无锁数据结构来减少响应时间;

   　　 在互联网业务发展非常迅猛的早期&