SpringCloud 组件性能优化技巧

最新推荐文章于 2023-12-12 16:33:35 发布
最新推荐文章于 2023-12-12 16:33:35 发布
阅读量193 收藏 1
点赞数
文章标签： spring cloud spring 后端
原文链接：https://mp.weixin.qq.com/s?__biz=MzUzMTA2NTU2Ng==&mid=2247577512&idx=3&sn=d7cca1b39442deff6c6e722cdc888646&chksm=fa4bd019cd3c590f146f069cd7b3a8e8de8ea64d5b90b764ce3aab508c1570093edcd6ca89c7&scene=126&sessionid=0
版权

👉 这是一个或许对你有用的社群

🐱 一对一交流/面试小册/简历优化/求职解惑，欢迎加入「芋道快速开发平台」知识星球。下面是星球提供的部分资料： 

522a05dcf6634288d2ce9429c65671fc.gif

👉这是一个或许对你有用的开源项目

国产 Star 破 10w+ 的开源项目，前端包括管理后台 + 微信小程序，后端支持单体和微服务架构。

功能涵盖 RBAC 权限、SaaS 多租户、数据权限、商城、支付、工作流、大屏报表、微信公众号等等功能：

  • Boot 地址：https://gitee.com/zhijiantianya/ruoyi-vue-pro

  • Cloud 地址：https://gitee.com/zhijiantianya/yudao-cloud

  • 视频教程：https://doc.iocoder.cn

来源：blog.csdn.net/Zyw907155124
/article/details/130841065

9ac022acdba7be884cdbc61cd43bc0a5.jpeg

Springcloud的性能问题

Springcloud 原始的配置，性能是很低的，大家可以使用Jmeter测试一下，QPS不会到50。要做到高并发，需要做不少的配置优化，主要的配置优化有以下几点：

  • Feign 配置优化

  • hystrix配置 优化

  • ribbon 优化

  • Servlet 容器 优化

  • Zuul配置 优化

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序，支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址：https://github.com/YunaiV/ruoyi-vue-pro

  • 视频教程：https://doc.iocoder.cn/video/

应用服务组件调优

Servlet 容器 优化

默认情况下，Spring Boot 使用 Tomcat 来作为内嵌的 Servlet 容器，可以将 Web 服务器切换到 Undertow 来提高应用性能，Undertow 是红帽公司开发的一款基于 NIO 的高性能 Web 嵌入式

Zuul使用的内置容器默认是Tomcat，可以将其换成undertow，可以显著减少线程的数量，替换方式即在pom中添加以下内容：

第一步，移除Tomcat 依赖

<dependency>
   <groupId>org.springframework.boot</groupId>
   <artifactId>spring-boot-starter-web</artifactId>
   <exclusions>
      <exclusion>
         <groupId>org.springframework.boot</groupId>
         <artifactId>spring-boot-starter-tomcat</artifactId>
      </exclusion>
   </exclusions>
</dependency>

第二步，增加Untertow 依赖

<dependency>
   <groupId>org.springframework.boot</groupId>
   <artifactId>spring-boot-starter-undertow</artifactId>
</dependency>

第三步，Undertow 的属性配置

server:
  undertow:
     io-threads: 16
     worker-threads: 256
     buffer-size: 1024
     buffers-per-region: 1024
     direct-buffers: true

server.undertow.io-threads: 设置IO线程数, 它主要执行非阻塞的任务，它们会负责多个连接, 默认设置每个CPU核心一个线程,不要设置过大，如果过大，启动项目会报错：打开文件数过多

server.undertow.worker-threads`: 阻塞任务线程池, 当执行类似servlet请求阻塞IO操作, undertow会从这个线程池中取得线程,它的值设置取决于系统线程执行任务的阻塞系数，默认值是`IO线程数*8

server.undertow.buffer-size: 以下的配置会影响buffer，这些buffer会用于服务器连接的IO操作，有点类似netty的池化内存管理，每块buffer的空间大小，越小的空间被利用越充分，不要设置太大，以免影响其他应用，合适即可

server.undertow.buffers-per-region`: 每个区分配的buffer数量 , 所以pool的大小是`buffer-size * buffers-per-region

server.undertow.direct-buffers: 是否分配的直接内存(NIO直接分配的堆外内存)

d64dac6048a27d957cc6aebef52b988e.png

Feign 配置优化

feign 默认不启用hystrix，需要手动指定 feign.hystrix.enabled=true 开启熔断

feign 启用压缩也是一种有效的性能优化方式，具体的配置如下

feign:
 compression:
  request:
   enabled: true
   mime-types: text/xml,application/xml,application/json
  response:
   enabled: true

feign HTTP请求方式选择

feign默认使用的是基于JDK提供的URLConnection调用HTTP接口，不具备连接池，所以资源开销上有点影响，经测试JDK的URLConnection比Apache HttpClient快很多倍。Apache HttpClient和okhttp都支持配置连接池功能，也可以使用okhttp请求方式。

当使用HttpClient时，可如下设置：

feign:
  httpclient:
    enabled: true
    max-connections:1000
    max-connections-per-route: 200

当使用OKHttp时，可如下设置：

feign:
  okhttp:
    enabled: true
  httpclient:
    max-connections: 1000
    max-connections-per-route: 200

max-connections 设置整个连接池最大连接数（该值默认为200）， 根据自己的场景决定

max-connections-per-route 设置路由的默认最大连接（该值默认为50），限制数量实际使用

08141f88839067d7496c5e0e9a2e79cc.png

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序，支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址：https://github.com/YunaiV/yudao-cloud

  • 视频教程：https://doc.iocoder.cn/video/

Gateway组件调优

Zuul配置 优化

我们知道Hystrix有隔离策略：THREAD 以及SEMAPHORE ，默认是 SEMAPHORE 。

Zuul默认是使用信号量隔离，并且信号量的大小是100，请求的并发线程超过100就会报错，可以调大该信号量的最大值来提高性能，配置如下：

zuul:
  semaphore:
    max-semaphores: 5000

表示，当Zuul的隔离策略为SEMAPHORE时，设置指定服务的最大信号量为5000。对于特定的微服务，可以通过下面的方式，设置最大信号量

设置默认最大信号量：

zuul:
semaphore:
max-semaphores: 5000 # 默认值

设置指定服务的最大信号量：

zuul:
  eureka:
    <commandKey>:
      semaphore:
        max-semaphores: 5000
6c7c08cb08950d9ee00a762f072d06c7.png

为了方便ThreadLocal的使用，也可以改为使用线程隔离的策略，这种场景下，就需要调大hystrix线程池线程大小，该线程池默认10个线程，调整的配置示例如下：

zuul:
  ribbonIsolationStrategy: THREAD
hystrix:
  threadpool:
    default:
      coreSize: 100
      maximumSize: 400
      allowMaximumSizeToDivergeFromCoreSize: true
      maxQueueSize: -1

  • hystrix.threadpool.default.allowMaximumSizeToDivergeFromCoreSize：是否让maximumSize生效，false的话则只有coreSize会生效

  • hystrix.threadpool.default.maxQueueSize：线程池的队列大小，-1代表使用SynchronousQueue队列

  • hystrix.threadpool.default.maximumSize：最大线程数量

  • hystrix.threadpool.default.allowMaximumSizeToDivergeFromCoreSize：是否让maximumSize生效，false的话则只有coreSize会生效

  • hystrix.threadpool.default.maxQueueSize：线程池的队列大小，-1代表使用SynchronousQueue队列

  • zuul.ribbon-isolation-strategy:设置线程隔离，thread 线程隔离，SEMAPHORE 表示信号量隔离

默认配置都可以去HystrixThreadPoolProperties和ZuulProperties这两个java文件中查找

hystrix配置 优化

首先需要设置参数hystrix.threadpool.default.coreSize 来指定熔断隔离的线程数，这个数需要调优，经测试线程数我们设置为和提供方的容器线程差不多，吞吐量高许多。

其次，启用Hystrix后，很多服务当第一次访问的时候都会失败 是因为初始化负载均衡一系列操作已经超出了超时时间了，因为默认的超时时间为1S，需要修改超时时间参数，方可解决这个问题。

参考的hystrix配置如下：

hystrix:
  threadpool:
    default:
      coreSize: 500
  command:
    default:
   circuitBreaker: 
     requestVolumeThreshold: 1000
      fallback:
        enabled: true
      execution:
        isolation:
          thread:
            timeoutInMilliseconds: 100000

  • hystrix.command.default: 全局的作用域，作用的所有的hystrix的客户端,如果需要对某个微服务，可以写serviceId

  • hystrix.command.default.fallback.enabled 是否开启回退方法

  • hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds 请求处理的超时时间，缺省为1000,表示默认的超时时间为1S

  • hystrix.threadpool.default.coreSize 核心线程池数量

  • hystrix.command.default.fallback.isolation.semaphore.maxConcurrentRequests 回退最大线程数

  • hystrix.command.default.circuitBreaker.requestVolumeThreshold 熔断器失败的个数，进入熔断器的请求达到1000时服务降级（之后的请求直接进入熔断器）

ea42d5caea47ae3aaaa602741d4db757.png

ribbon 优化

Ribbon进行客户端负载均衡的Client并不是在服务启动的时候就初始化好的，而是在调用的时候才会去创建相应的Client，所以第一次调用的耗时不仅仅包含发送HTTP请求的时间，还包含了创建RibbonClient的时间，这样一来如果创建时间速度较慢，同时设置的超时时间又比较短的话，很容易就会出现上面所描述的显现。

因此我们可以通过设置:

ribbon:
 eager-load:
     enabled：true
 clients：service-1,service-2,service-n
07ba6fa97701f4a9b87110d1381e83a8.png

参数说明:

  • ribbon.eager-load.enabled : 开启Ribbon的饥饿加载模式

  • ribbon.eager-load.clients: 指定需要饥饿加载的服务名，如果不指定服务名称，饥饿加载模式无效

Zuul的饥饿加载，没有设计专门的参数来配置，而是直接采用了读取路由配置来进行饥饿加载。所以，如果我们使用默认路由，而没有通过配置的方式指定具体路由规则，那么 zuul.ribbon.eager-load.enabled=true 的配置就没有什么作用了。

如果需要真正启用Zuul 的饥饿加载，需要通过zuul.ignored-services=*来忽略所有的默认路由，让所有路由配置均维护在配置文件中，以达到网关启动的时候就加载好各个路由的负载均衡对象。

关于Zuul 的默认路由，这里详细介绍一下。假设你的注册服务中心有三个已经注册的服务名称service-a，service-b，service-c。但是在zuul配置文件中，只映射了service-a，service-b，如下：

zuul:
  ribbon:
    eager-load:
      enabled: true 
  ignored-services: ‘*’
  routes:
    a:
      path: /a/**
      serviceId: service-a
    b:
     path: /b/**
     serviceId: service-b

这里，虽然没有配置service-c的映射，但是，由于zuul有默认的映射机制，还是可以通过http://ip:port/service-c/的Url，访问到你的service-c服务，如果不想向外界暴露默认的服务映射，可以加上 zuul.ignored-services:*

欢迎加入我的知识星球，全面提升技术能力。

👉 加入方式，“长按”或“扫描”下方二维码噢：

4d39db973a8b1b67b8596c0c3e0269b4.png

星球的内容包括：项目实战、面试招聘、源码解析、学习路线。

9bd5ccd09e84abfd3f1d62df097707a3.png

4998e9fab81a7b1f7de30768bb026380.pnge4939f650fd784381325143210c71bb9.png4ac7483416fa333f86b6c75bad52396b.png8b272cc36ef97774cd621741270ad556.png

文章有帮助的话，在看，转发吧。
谢谢支持哟 (*^__^*）
公众号-芋道源码
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
React原理解密
liuyuhua666的博客
07-19 909
1. setState() 的说明 1.1 更新数据 setState() 是异步更新数据的 注意：使用该语法时，后面的 setState() 不要依赖于前面的 setState() 可以多次调用 setState() ，只会触发一次重新渲染 this.state = { count: 1 } this.setState({ count: this.state.count + 1 }) co...
SpringCloud 性能优化
Zyw907155124的博客
05-24 1683
Springcloud的性能问题、Servlet 容器 优化、Feign 配置优化、Zuul配置 优化、hystrix配置 优化、ribbon 优化
springcloud 项目性能优化，让你的项目飞起来
爬爬代码工博客
05-16 834
springcloud性能优化，提高项目并发能力
细说React组件性能优化
xiaofeng123aazz的博客
03-15 430
纯组件会对组件输入数据进行浅层比较，如果当前输入数据和上次输入数据相同，组件不会重新渲染比较引用数据类型在内存中的引用地址是否相同，比较基本数据类型的值是否相同。person . name } 丨 {name : "张三" , job : "developer" });} , 1000);} , [ ]);
react组件性能优化探索实践
2301_77822280的博客
06-05 661
React本身就非常关注性能，其提供的虚拟DOM搭配上Diff算法，实现对DOM操作最小粒度的改变也是非常的高效。然而其组件渲染机制，也决定了在对组件进行更新时还可以进行更细致的优化。
Spring Cloud Feign性能优化代码实例
08-24
主要介绍了Spring Cloud Feign性能优化代码实例,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
SpringCloud组件面试题目_SpringCloud组件面试_springcloud_
10-03
整理的准备参加面试的SpringCloud面试题目
SpringCloud组件demo
12-02
Spring Cloud 五大核心组件1.Netflix Eureka（服务发现）2.Netflix Ribbon（客户端负载均衡）3.Netflix Hystrix（断路器）4.Netflix Zuul（服务网关）5.Spring Cloud Config（分布式配置）
Spring Cloud 各组件Demo
11-30
Spring Cloud 各组件Demo ，包含 Spring Cloud Eureka ，Spring Cloud Zuul ， Spring Cloud Ribbon ， Hystrix-Dashboard-Turbine 如有错误 ，请于本人联系 ，自会及时修改 ， 防止误导他人
SpringCloud组件体系思维导图
12-04
springcloud组件体系思维导图，用于学习者清晰得知道Springcloud系列包含的技术
项目中的核心问题（组件封装，网络请求，业务功能，性能优化）
qq_60839348的博客
05-06 779
项目中的核心问题（组件封装，网络请求，业务功能，性能优化）
全链路异步，让你的 SpringCloud 性能优化10倍+
架构师尼恩
02-13 3558
如何降本增效？可以通过技术升级，全链路同步模式 ，升级为全链路异步模式。尼恩作为40岁资深老架构师，带大家来做一把全链路异步模式改造，给大家看看研究成果，一定会惊到大家目瞪口呆。
SpringCloud 常见10个调优场景
最新发布
qq_28012895的博客
12-12 873
总结一下，Spring Cloud是一个非常强大的分布式开发工具，它为我们提供了丰富的功能和组件，帮助我们构建和管理分布式系统。同时，我们也要关注系统的性能和稳定性，不断优化和改进，以提高系统的可靠性和效率。说起来Spring Cloud，简单地说就是一个用于构建分布式系统的开发工具，它提供了很多方便快捷的功能和组件，帮助我们开发和管理复杂的分布式系统。通过对以上场景的优化，我们可以提高分布式系统的性能和可靠性，保证系统的稳定和高效运行。（代码示例仅供参考）
【性能优化之道】每秒上万并发下的Spring Cloud参数优化实战
热门推荐
石杉的架构笔记
11-12 1万+
欢迎关注个人微信公众号：石杉的架构笔记（id：shishan100） 周一至周五早八点半！精品技术文章准时送上！！   往期文章 1. 拜托！面试请不要再问我Spring Cloud底层原理！ 2.【双11狂欢的背后】微服务注册中心如何承载大型系统的千万级访问？   目录 一、写在前面 二、场景引入，问题初现 三、扬汤止沸，饮鸩止渴 四、问题爆发，洪水猛兽 五、追本溯...
spring cloud性能调优
弹指天下
03-15 1万+
网上看了好多关于spring cloud性能调优这类的文章，良莠不齐。本文针对公司微服务并发的实际场景以及网上调研的资料分析影响微服务并发的各种配置优化。 先说明线上调用的实际例子： 通过zuul网关 调用服务A的接口，服务A的接口里面通过Feign调用服务B的接口。 问题： 通过JMeter并发测试发现，并发数竟然没有达到30次/s，即QPS不到30。这 备注： TPS(吞吐量) 系统在单...
什么是熔断? 熔断有哪几种状态 断路器的工作原理、如何开启熔断?
岚天的博客
01-20 7917
什么是熔断? 熔断有哪几种状态 断路器的工作原理 一、什么是熔断 熔断机制是应对雪崩效应的一种微服务链路保护机制。当扇出链路的某个微服务不可用或者响应时间太长时，会进行服务降级，进而熔断该节点微服务的调用，快速返回“错误”的响应信息。当检测到该节点微服务调用响应正常后恢复调用链路。 在SpringCloud框架里熔断机制通过Hystrix实现，Hystrix会监控微服务间调用的状况，当失败的调用到一定阈值，缺省是5秒内调用20次，如果失败，就会启动熔断机制。熔断机制的注解是@HystrixCommand。
SpringCloud集成Feign高级配置性能优化最佳实践
Blueeyedboy521的博客
03-28 2324
自定义Feign的配置 配置日志方式一 全局配置 # 全局生效 feign: client: config: default: # 这里用default就是全局配置，如果是写服务名称，则是针对某个微服务的配置 loggerLevel: Full # 日志级别Basic 局部生效 # 全局生效 feign: client: config: userservice: # 这里用default就是全局配置，如果是写服务名称，则是针对某个微服务的.
springboot springcloud 启动优化、性能优化
zhaoyang10的专栏
08-26 1191
springboot启动太慢优化 springboot性能优化
springcloud gateway性能优化
09-13
针对Spring Cloud Gateway的性能优化，可以从以下几个方面入手： 1. 网关部署方式：可以考虑使用高性能的服务器或云服务进行部署，确保服务器的性能能够满足网关的负载要求。 2. 路由配置优化：根据实际业务需求，...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值