谈高QPS下的优化

谈高QPS下的优化

1.在非常大量场景下：

首先分析代码中，是否存在处理（查询）结果可以缓存，如果有的话，重复的操作的幂等结果缓存非常有效果；在非常高的并发请求下，点滴的优化在大量下都是值得的；但是如果要缓存，就要考虑缓存的一些策略要满足需求；

2.批量操作

批量操作的意义就是通过批量的方式，相对减少了RTT的总耗时在整个处理过程中的影响占比；但是如果调整为批量的方式，就要考虑多大的量是合适的，因为一般服务端的线程数是固定的（即处理能力固定），如果一个请求占据相对较大的时间的话，可能引入其他请求可能会被阻塞，进而导致整体服务雪崩的问题；