高并发系统-性能指标的判断

健康平安的活着

已于 2025-02-16 22:14:33 修改

阅读量711

点赞数 23

分类专栏：架构师文章标签：架构

于 2025-02-16 22:07:35 首次发布

本文链接：https://blog.csdn.net/u011066470/article/details/145670549

版权

架构师专栏收录该内容

9 篇文章

订阅专栏

一性能指标

1.1 概述

衡量系统性能和网络性能的指标，大致从这四个维度进行判断：吞吐量（TPS）、QPS、并发数和响应时间（RT）。

TPS、QPS、并发数和RT这四个指标相互关联，共同影响着系统性能。TPS和QPS反映了系统的处理能力，并发数体现了系统的并发处理能力，而RT则直接影响用户体验。

QPS（TPS）= 并发数/平均响应时间；并发数 = QPS*平均响应时间。

如果每天 80% 的访问集中在 20% 的时间里，这 20% 的时间就叫做峰值时间。

公式：( 总PV数 * 80% ) / ( 每天秒数（一天总共的秒数） * 20% ) = 峰值时间每秒请求数(QPS)

机器：峰值时间每秒QPS / 单台机器的QPS = 需要的机器

每天300w PV的在单台机器上，这台机器需要多少QPS？

( 3000000 * 0.8 ) / (86400 * 0.2 ) = 139 (QPS)

如果一台机器的QPS是58，需要几台机器来支持？

139 / 58 = 3

1.2 TPS

吞吐量（TPS，Transactions Per Second）是指系统或服务器在单位时间内处理的事务数量。它反映了系统处理请求的能力，是评估系统性能的重要指标之一。TPS越高，说明系统处理事务的速度越快，性能越好。探索性能之巅：深入理解吞吐量（TPS）、QPS、并发数与响应时间（RT）

计算方法：TPS的计算方法通常为总事务数除以总时间。在实际应用中，TPS受到多种因素的影响，包括硬件配置、网络带宽、系统架构、并发用户数等。优化这些因素可以有效提升TPS。

提升tps：提升TPS的策略包括：优化数据库性能、减少网络延迟、使用负载均衡技术、优化代码逻辑等。此外，合理设计系统架构和采用高性能的硬件设备也是提升TPS的关键。

1.3 QPS

QPS（Queries Per Second）即每秒查询率，它衡量的是服务器每秒能够响应的查询次数。与TPS相比，QPS更侧重于衡量查询操作的性能。在数据库、Web服务等场景中，QPS的高低直接影响用户体验和系统稳定性。

在实际应用中，TPS受到多种因素的影响，包括硬件配置、网络带宽、系统架构、并发用户数等。优化这些因素可以有效提升TPS。

提高qps的策略：提高QPS的方法包括：优化查询语句、使用索引、减少不必要的数据传输、采用缓存技术等。此外，对数据库进行读写分离、读写分离读写等操作也有助于提高QPS。

例如：缓存技术也是提高QPS的有效手段。通过将热点数据缓存在内存中，可以减少对数据库的访问次数，从而提高QPS。

1.4 并发数

并发数是指同时访问系统或服务器的用户数量。它反映了系统处理并发请求的能力，是评估系统性能的重要指标之一。

优化并发数的策略包括：使用线程池技术、优化锁机制、采用分布式架构等。这些策略有助于提高系统的并发处理能力，降低因并发数过高而导致的性能问题。

例如：并发数的处理涉及到多线程、异步处理等技术。例如，使用线程池可以有效管理线程资源，避免线程过多导致的性能下降。同时，异步处理技术可以将耗时的操作放到后台执行，从而释放主线程处理其他请求，提高系统的并发处理能力。

1.5 响应时间

响应时间（RT，Response Time）是指用户发出请求到系统做出响应的时间。它直接关系到用户体验和系统性能。较短的响应时间意味着系统能够更快速地响应用户请求，提高用户满意度。

在讨论一个系统的响应时间时，人们通常是指该系统所有功能的平均时间或者所有功能的最大响应时间。

影响响应时间因素：影响响应时间的因素包括网络延迟、系统负载、硬件性能等。优化这些因素可以有效降低响应时间，提升系统性能。

提高系统响应时间策略：降低响应时间的策略包括：优化网络传输、减少数据处理时间、使用异步处理技术等。此外，对系统进行负载均衡和容灾备份也有助于降低响应时间，提高系统稳定性。

如：响应时间的优化需要从多个方面入手。首先，优化网络传输可以降低网络延迟，从而提高响应时间。其次，减少数据处理时间也是关键。例如，通过优化算法和数据结构，可以降低数据处理的复杂度，从而提高响应时间。此外，使用异步处理技术也可以降低响应时间，因为异步处理可以将耗时操作与主线程分离，使主线程能够更快地返回响应。

二案例说明

2.1 案例说明

2.1.1 案例1

问题描述：某大型电商网站在促销活动期间，并发用户数激增，导致系统性能下降，响应时间延长。

分析：首先分析了系统的TPS和QPS，发现数据库查询成为性能瓶颈。于是，团队采用了读写分离、引入缓存等技术手段，成功提升了系统的TPS和QPS，降低了响应时间，保证了活动的顺利进行。

2.1.2 案例2

问题描述：某在线支付系统在高峰期经常出现支付失败、响应慢等问题。

经过分析，团队发现并发数过高导致系统资源紧张。因此采用了分布式架构和负载均衡技术，将请求分散到多个服务器上处理，成功提高了系统的并发处理能力，降低了响应时间

三容器的性能监控

3.1 说明

Grafana 是一个开源的监控和可视化工具，广泛用于系统监控、应用性能监控、日志分析等领域。它支持多种数据源，能够将数据以图表、仪表盘等形式直观展示。

系统监控：通过 Grafana 可以监控服务器的 CPU、内存、磁盘、网络等指标，帮助运维人员实时了解系统健康状况29。
应用性能监控：结合 Prometheus 或 OpenTelemetry，Grafana 可以监控应用的响应时间、错误率等关键指标，帮助开发团队优化性能18。
日志分析：通过 Loki 插件，Grafana 可以集中存储和查询日志数据，帮助用户快速定位问题1。
业务数据展示：Grafana 可以用于展示业务数据，例如用户数、销售额等，帮助企业决策者实时了解业务状况26。

Prometheus 是一个功能强大且灵活的监控工具，特别适合云原生和微服务架构的监控需求。通过结合 Grafana、Alertmanager 等工具，用户可以构建完整的监控和报警系统，实时掌握系统状态并快速响应问题。