压测性能调优之gateway网关

1、 压测资源和场景

(1)14个接口同时压测5000并发;

(2)服务资源:采用k8s部署,总共25台8核64G阿里云机器,node节点个数22个,master3个,15个网关实例,其它应用实例10个,mysql和redis采用阿里云;

2、 压测结果

(1)通过skywalking观察发现请求通过nginx连接到网关时无法建立连接导致请求超时;

在这里插入图片描述

(2)下游应用服务资源还未到达瓶颈,请求都堵在了网关层被超时截断;

3、 解决方式

(1)查看了gateway的cpu和内存使用情况,都未达到瓶颈,cpu才百分之40,因此得出结论连接数不够,需要调整;

(2)修改gateway得连接数配置

spring:
  cloud:
    gateway:
      httpclient:
        pool:
          #连接池类型 ELASTIC(可伸缩,默认),FIXED(固定),DISABLED(不限制)
          type: fixed
          #最大连接数
          max-connections: 4096
        # 响应超时
        response-timeout: 5000
        # 连接超时
        connect-timeout: 3000

(3)修改后再次压测,性能得到提升且gateway得cpu和内存已经达到极限,因此调优成功;

(4)这里默认使用可伸缩,默认值得连接数等于核心数*2,如果核心数低于8则取8,所以这里最低是16个,然后弹性上升的策略可能是缓慢上升不能急速上升导致,因为压测的流量是瞬间上来,当然这个是个人理解的猜测;

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在进行Spring Cloud Gateway性能调优时,可以考虑以下几个方面: 1. 版本升级:确保使用最新的Spring Boot、Spring Cloud和Spring Cloud Alibaba版本,因为新版本通常会修复一些性能问题并引入一些优化。 2. 配置调整:根据实际情况对Spring Cloud Gateway的相关配置进行调整。比如,可以通过调整`spring.cloud.gateway.httpclient.pool.type`参数来选择合适的连接池类型(例如ELASTIC、FIXED或DISABLED)。此外,还可以调整连接池的最大连接数(`spring.cloud.gateway.httpclient.pool.max-connections`)和其他相关连接参数,以提高性能。 3. 路由优化:检查并优化Gateway的路由配置。可以通过减少路由规则的数量、简化路由规则表达式、合并相似的路由规则等方式来优化路由的性能。 4. 缓存机制:如果可以,考虑使用缓存机制来减轻后端服务的负载。可以使用Spring Cloud Gateway的内置缓存功能或者结合其他缓存组件来实现。 5. 异步处理:对于处理比较耗时的请求,可以考虑使用异步处理来提高性能。可以使用Spring Cloud Gateway的异步处理功能,将请求转发给异步处理的线程池进行处理。 总结起来,对于Spring Cloud Gateway性能调优,可以从版本升级、配置调整、路由优化、缓存机制和异步处理等方面入手,根据具体需求和场景进行优化。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *3* [Spring Cloud Gateway 服务器性能异常,以及优化策略](https://blog.csdn.net/weixin_42321034/article/details/123284715)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* [spring cloud gateway性能优化](https://blog.csdn.net/weixin_42161936/article/details/123395773)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值