本文探讨了提高应用吞吐性能的方法，包括理解Throughput、解决锁的争用和等待、降低锁的成本及使用更细粒度的锁。还介绍了缓冲请求、合并任务和批量处理的策略，以降低Wait Time并增强应用的并行处理能力。通过这些方法，可以有效提升系统的Scalability，应对业务需求的变化。
什么是Throughput
Throughput指的是应用处理任务的速率，它所描述的是应用在单位时间内能够处理多大数量的任务
如下，如果应用能够在1s中处理3个task，我们可以说它的throughput是3tps
值得注意的是，throughput这个指标所代表的是速率，它并不代表同时性(Concurrency)，比如图一中的3tps的应用，我们能说它可以在1s中处理3个task，但是并不意味着3个task是同时被处理的，而可能是顺序、线性地被处理
如果应用可以支持同时处理多个任务，比如应用(系统)中有2个worker，每个worker都可以并行地在1s中内处理3个task，它的throughput则是6tps
如何提高throughput呢？显然可以想到：
- 缩短每个任务处理的耗时
- 让更多的任务可以被同时
最低0.47元/天 解锁文章
扫一扫
475
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
