高并发
是指在同一个时间点,大量用户同时访问同一API接口或者Url地址。
如何应对高并发
最有效的方法
提升硬件,但是硬件的提升是有天花板的。并且越高端的机器成本越高。
谷歌使用的方法
利用分布式系统,使用集群来解决这个问题。把一台服务器承担的压力分担到一堆服务器上。
通过把不同的业务模块部署到不同的服务器上。或者把同一个业务模块分拆成多个子业务来解决高并发的问题。
另一个有效的手段
缓存是解决高并发的一个有效手段。因为磁盘读写速度较慢,所以我们常常用读写速度更快的内存,来防止流量达到磁盘。
通常我们会把一些静态资源,如音乐app的音频、歌词以及没有那么重要的动态资源,比如热门的评论,存放在缓存服务器上。
只要定期去做更新,就能大大减少磁盘的压力。
异步处理
缓存有了,但是仍然有一些请求无法快速响应。这个时候异步处理就能派上用场了。
这种方法不仅可以削峰限流,提升用户体验,还能很好的保护系统。