前言
我们知道,高并发代表着大流量,高并发系统设计的魅力就在于我们能够凭借自己的聪明才 智设计巧妙的方案,从而抵抗巨大流量的冲击,带给用户更好的使用体验。这些方案好似能 操纵流量,让流量更加平稳得被系统中的服务和组件处理。
来做个简单的比喻吧。
从古至今,长江和黄河流域水患不断,远古时期,大禹曾拓宽河道,清除淤沙让流水更加顺 畅;都江堰作为史上最成功的的治水案例之一,用引流将岷江之水分流到多个支流中,以分 担水流压力;三门峡和葛洲坝通过建造水库将水引入水库先存储起来,然后再想办法把水库 中的水缓缓地排出去,以此提高下游的抗洪能力。
而我们在应对高并发大流量时也会采用类似“抵御洪水”的方案,归纳起来共有三种方法。
Scale-out(横向扩展):分而治之是一种常见的高并发系统设计方法,采用分布式部署 的方式把流量分流开,让每个服务器都承担一部分并发和流量。
缓存:使用缓存来提高系统的性能,就好比用“拓宽河道”的方式抵抗高并发大流量的冲 击。
异步:在某些场景下,未处理完成之前,我们可以让请求先返回,在