SpringBoot 物理线程、虚拟线程、Webflux 性能全面对比！

最新推荐文章于 2024-05-31 10:14:06 发布
最新推荐文章于 2024-05-31 10:14:06 发布
阅读量217 收藏
点赞数
文章标签： spring boot 后端 java spring
原文链接：https://mp.weixin.qq.com/s?__biz=MzUzMTA2NTU2Ng==&mid=2247581462&idx=3&sn=f7a4583fb58bb8df465c6e92ecf91f01&chksm=fa4bc0a7cd3c49b1963273e6aec75411dc250dd76f1ae82ff91e2e31e15733e51fedd7b134dc&scene=126&sessionid=0
版权

👉 这是一个或许对你有用的社群

🐱 一对一交流/面试小册/简历优化/求职解惑，欢迎加入「芋道快速开发平台」知识星球。下面是星球提供的部分资料： 

3bb62f0fdb08a172e87ac6245be91c07.gif

👉这是一个或许对你有用的开源项目

国产 Star 破 10w+ 的开源项目，前端包括管理后台 + 微信小程序，后端支持单体和微服务架构。

功能涵盖 RBAC 权限、SaaS 多租户、数据权限、商城、支付、工作流、大屏报表、微信公众号等等功能：

  • Boot 地址：https://gitee.com/zhijiantianya/ruoyi-vue-pro

  • Cloud 地址：https://gitee.com/zhijiantianya/yudao-cloud

  • 视频教程：https://doc.iocoder.cn

来源：丛林 medium.com

大量的文章评估了一系列技术（包括 Node.js、Deno、Bun、Rust、Go、Spring、Python 等）在简单的“hello world”场景中的性能。虽然这些文章获得了好评，但有一个共同点：忽略了现实场景开发中的复杂性 。

本文旨在通过现实场景的视角剖析各种技术，在这种特殊情况下，我们深入研究以下常见用例：

  1. 从 authorization header 中提取一个JWT。

  2. 验证JWT并从声明中提取用户的电子邮件。

  3. 使用提取的电子邮件执行MySQL查询。

  4. 最后，返回用户的记录。

虽然这个场景看起来似乎也很简单，但它概括了 Web 开发领域中经常遇到的现实挑战。

介绍

在本文中，我们将深入探讨所有同级产品之间的友好比较，即具有「物理线程、虚拟线程和 Webflux 的 SpringBoot」 ，重点关注它们在特定用例场景中的性能。我们已经探索了标准 SpringBoot 应用程序如何与 webflux 相媲美，但现在，我们引入一个关键的区别：

带有虚拟线程的 Spring Boot

我们熟悉 SpringBoot，但有一点不同——它在虚拟线程而不是传统的物理线程上运行。虚拟线程是并发领域的游戏规则改变者。这些轻量级线程简化了开发、维护和调试高吞吐量并发应用程序的复杂任务。

虽然虚拟线程仍然在底层操作系统线程上运行，但它们带来了显着的效率改进。当虚拟线程遇到阻塞 I/O 操作时，Java 运行时会暂时挂起它，从而释放关联的操作系统线程来为其他虚拟线程提供服务。这个优雅的解决方案优化了资源分配并增强了整体应用程序响应能力。

考虑到这些有趣的设置，让我们更深入地研究我们的性能比较。撰写本文是为了解决最常见的请求之一，即查看物理、虚拟和 Webflux 在实际用例中的比较。

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序，支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址：https://github.com/YunaiV/ruoyi-vue-pro

  • 视频教程：https://doc.iocoder.cn/video/

测试环境及软件版本

我们的性能测试是在配备 16GB RAM 的 MacBook Pro M1 上进行的，确保了可靠的测试平台。用于这些测试的软件堆栈包括：

  • SpringBoot 3.1.3（在Java 20上运行）

  • 启用预览模式以获得虚拟线程的强大功能

  • jjwt用于JWT验证和解码，增强我们应用程序的安全性。

  • mysql-connector-java 用于执行 MySQL 查询，维护数据完整性和一致性。

负载测试和 JWT

为了评估我们的应用程序在不同负载下的性能，我们使用了开源负载测试工具 Bombardier。我们的测试场景涉及预先创建的 100000 个 JWT 列表。在测试过程中，Bombardier 从该池中随机选择 JWT，并将它们包含在 HTTP 请求的授权标头中。

❝

Bombardier开源地址： https://github.com/codesenberg/bombardier/

❞

MySQL 数据库架构

用于这些性能测试的 MySQL 数据库有一个名为 users 的表。该表设计有 6 列，足以模拟我们应用程序中的真实数据交互，使我们能够评估它们的响应能力和可扩展性。

mysql> desc users;
+--------+--------------+------+-----+---------+-------+
| Field  | Type         | Null | Key | Default | Extra |
+--------+--------------+------+-----+---------+-------+
| email  | varchar(255) | NO   | PRI | NULL    |       |
| first  | varchar(255) | YES  |     | NULL    |       |
| last   | varchar(255) | YES  |     | NULL    |       |
| city   | varchar(255) | YES  |     | NULL    |       |
| county | varchar(255) | YES  |     | NULL    |       |
| age    | int          | YES  |     | NULL    |       |
+--------+--------------+------+-----+---------+-------+
6 rows in set (0.00 sec)

❝

用户数据库已准备好包含 100000 条用户记录的初始数据集。

❞

mysql> select count(*) from users;
+----------+
| count(*) |
+----------+
|    99999 |
+----------+
1 row in set (0.01 sec)

在我们对 SpringBoot 物理线程、虚拟线程和 Webflux 进行友好性能评估的背景下，了解关键的数据关系至关重要。具体来说，在JSON Web Token（JWT）有效负载中，每个电子邮件条目直接对应于存储在 MySQL 数据库中的一条用户记录。

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序，支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址：https://github.com/YunaiV/yudao-cloud

  • 视频教程：https://doc.iocoder.cn/video/

代码

SpringBoot（物理线程）

配置信息

server.port=3000
spring.datasource.url= jdbc:mysql://localhost:3306/testdb?useSSL=false&allowPublicKeyRetrieval=true
spring.datasource.username= dbuser
spring.datasource.password= dbpwd
spring.jpa.hibernate.ddl-auto= update
spring.datasource.driver-class-name=com.mysql.cj.jdbc.Driver
spring.jpa.properties.hibernate.dialect=org.hibernate.dialect.MySQLDialect

实体类

package com.example.demo;

import jakarta.persistence.Entity;
import jakarta.persistence.Table;
import jakarta.persistence.GeneratedValue;
import jakarta.persistence.GenerationType;
import jakarta.persistence.Id;

@Entity
@Table(name = "users")
public class User {
  @Id
  private String email;

  private String first;

  private String last;

  private String city;

  private String county;

  private int age;

  public String getId() {
    return email;
  }

  public void setId(String email) {
    this.email = email;
  }

  public String getFirst() {
    return first;
  }

  public void setFirst(String name) {
    this.first = name;
  }

  public String getLast() {
    return last;
  }

  public void setLast(String name) {
    this.last = name;
  }

  public String getEmail() {
    return email;
  }

  public void setEmail(String email) {
    this.email = email;
  }

  public String getCity() {
    return city;
  }

  public void setCity(String city) {
    this.city = city;
  }

  public String getCounty() {
    return county;
  }

  public void setCounty(String county) {
    this.county = county;
  }

  public int getAge() {
    return age;
  }

  public void setAge(int age) {
    this.age = age;
  }
}

启动类

package com.example.demo;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.boot.web.embedded.tomcat.TomcatProtocolHandlerCustomizer;
import org.springframework.context.annotation.Bean;

@SpringBootApplication
public class UserApplication {

    public static void main(String[] args) {
        SpringApplication.run(UserApplication.class, args);
    }
}

Controller层

package com.example.demo;

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestHeader;
import org.springframework.http.ResponseEntity;
import org.springframework.http.HttpStatus;
import org.springframework.http.HttpHeaders;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.beans.factory.annotation.Autowired;
import java.util.Optional;
import io.jsonwebtoken.Jwts;
import io.jsonwebtoken.Jws;
import io.jsonwebtoken.Claims;
import io.jsonwebtoken.SignatureAlgorithm;
import io.jsonwebtoken.security.Keys;
import java.security.Key;
import com.example.demo.UserRepository;
import com.example.demo.User;

@RestController
public class UserController {

    @Autowired
    UserRepository userRepository;

    private SignatureAlgorithm sa = SignatureAlgorithm.HS256;
    private String jwtSecret = System.getenv("JWT_SECRET");

    @GetMapping("/")
    public User handleRequest(@RequestHeader(HttpHeaders.AUTHORIZATION) String authHdr) {
        String jwtString = authHdr.replace("Bearer","");
        Claims claims = Jwts.parser()
            .setSigningKey(jwtSecret.getBytes())
            .parseClaimsJws(jwtString).getBody();

        Optional<User> user = userRepository.findById((String)claims.get("email"));
        return user.get();
    }
}

接口类

package com.example.demo;

import org.springframework.data.repository.CrudRepository;
import com.example.demo.User;

public interface UserRepository extends CrudRepository<User, String> {

}

Springboot（虚拟线程）

其余代码基本照搬上述 「物理线程」 ， 启动类修改如下：

package com.example.demo;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.boot.web.embedded.tomcat.TomcatProtocolHandlerCustomizer;
import org.springframework.context.annotation.Bean;
import java.util.concurrent.Executors;

@SpringBootApplication
public class UserApplication {

    public static void main(String[] args) {
        SpringApplication.run(UserApplication.class, args);
    }

    @Bean
    public TomcatProtocolHandlerCustomizer<?> protocolHandlerVirtualThreadExecutorCustomizer() {
        return protocolHandler -> {
            protocolHandler.setExecutor(Executors.newVirtualThreadPerTaskExecutor());
        };
    }
}

SpringBoot（webflux）

server.port=3000
spring.r2dbc.url=r2dbc:mysql://localhost:3306/testdb?allowPublicKeyRetrieval=true&ssl=false
spring.r2dbc.username=dbuser
spring.r2dbc.password=dbpwd
spring.r2dbc.pool.initial-size=10
spring.r2dbc.pool.max-size=10

启动类

package webfluxdemo;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.context.annotation.Bean;
import org.springframework.core.io.ClassPathResource;
import org.springframework.r2dbc.connection.init.ConnectionFactoryInitializer;
import org.springframework.r2dbc.connection.init.ResourceDatabasePopulator;
import org.springframework.web.reactive.config.EnableWebFlux;

import io.r2dbc.spi.ConnectionFactory;

@EnableWebFlux
@SpringBootApplication
public class UserApplication {

  public static void main(String[] args) {
    SpringApplication.run(UserApplication.class, args);
  }

}

Controller层代码

package webfluxdemo;

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.http.HttpStatus;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestBody;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.ResponseStatus;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.bind.annotation.RequestHeader;
import org.springframework.http.HttpHeaders;

import webfluxdemo.User;
import webfluxdemo.UserService;

import io.jsonwebtoken.Jwts;
import io.jsonwebtoken.Jws;
import io.jsonwebtoken.Claims;
import io.jsonwebtoken.SignatureAlgorithm;
import io.jsonwebtoken.security.Keys;
import java.security.Key;

import reactor.core.publisher.Flux;
import reactor.core.publisher.Mono;

@RestController
@RequestMapping("/")
public class UserController {
  @Autowired
  UserService userService;

  private SignatureAlgorithm sa = SignatureAlgorithm.HS256;
  private String jwtSecret = System.getenv("JWT_SECRET");

  @GetMapping("/")
  @ResponseStatus(HttpStatus.OK)
  public Mono<User> getUserById(@RequestHeader(HttpHeaders.AUTHORIZATION) String authHdr) {
    String jwtString = authHdr.replace("Bearer","");
    Claims claims = Jwts.parser()
        .setSigningKey(jwtSecret.getBytes())
        .parseClaimsJws(jwtString).getBody();
    return userService.findById((String)claims.get("email"));
  }
}

接口类

package webfluxdemo;

import org.springframework.data.r2dbc.repository.R2dbcRepository;
import org.springframework.stereotype.Repository;

import webfluxdemo.User;

public interface UserRepository extends R2dbcRepository<User, String> {

}

Service层代码

package webfluxdemo;

import java.util.Optional;

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;

import webfluxdemo.User;
import webfluxdemo.UserRepository;

import reactor.core.publisher.Flux;
import reactor.core.publisher.Mono;

@Service
public class UserService {

  @Autowired
  UserRepository userRepository;

  public Mono<User> findById(String id) {
    return userRepository.findById(id);
  }
}

结果

为了评估性能，我们进行了一系列严格的测试。每个测试由100万个请求组成，我们评估了它们在不同并发连接级别（50、100和300）下的性能。

现在，让我们深入研究结果，以图表形式呈现：

9f18b058b0d43ca2f24bb768609c402e.png
所用时间对比
d7ae63348988b7aeae3e8a2ad05f3c4b.png
每秒请求数
8be3d002a5ced215b5c039c3639ba42b.png
最小延迟
2976c955ee5a3dcbe42055f759344791.png
10%延迟
5175cdec7b32e654de6da2d5d8f4964d.png
25%延迟
14308739ec56af6b413e4ceedacaa767.png
平均延迟
38877c1c1b01a26be9926cda759d8bec.png
中位数延迟
369e87f53ecad89b90e5b6bc60167f39.png
75%延迟
ef6bc5f8c7402d442f5135955e4ddf5e.png
90%延迟
63cdbc9ee355c922dbb8848bc17c015d.png
99%延迟
1c49be88e63a536f920d27d38c1aa348.png
最高延迟
ef60edcc0a82071a10a49ff454cd7f77.png
平均CPU使用率
d2d2da73f63582117906cb529ff5b9d0.png
平均内存使用率

分析

在此设置中，即使用MySQL驱动程序时，虚拟线程提供的性能最低、Webflux保持遥遥领先。

欢迎加入我的知识星球，全面提升技术能力。

👉 加入方式，“长按”或“扫描”下方二维码噢：

5de94de1fbd82c71c83ed8ca09fecda0.png

星球的内容包括：项目实战、面试招聘、源码解析、学习路线。

4343bd232952d2aacbc8a1fa87fe5ddd.png

f0a976b4a02578eb71bd00b0cc20e4d4.png0f3f766cfd49cd98da3e00e6276eb509.png842a8dc3315e0ef0e2aab7bf0498da5d.png15c570ae329358f48e5001d9e1406cc2.png

文章有帮助的话，在看，转发吧。
谢谢支持哟 (*^__^*）
公众号-芋道源码
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Spring Boot虚拟线程的性能还不如Webflux？
程序猿DD
09-19 375
早上看到一篇关于Spring Boot虚拟线程和Webflux性能对比的文章，觉得还不错。内容较长，抓重点给大家介绍一下这篇文章的核心内容，方便大家快速阅读。测试场景作者采用了一个尽可能贴近现实操作的场景：从授权头信息中提取JWT验证JWT并从中提取用户的Email使用用户的Email去MySQL里执行查询返回用户记录测试技术这里要对比的两个核心技术点是：带有虚拟线程的Spring Boot：这不...
springboot多线程demo
05-14
springboot多线程demo
Spring Boot WebFlux:实现web（Server-Sent Events）事件异步推送
洛阳泰山的博客
02-23 1914
是HTML5中引入的一种新的API，它允许服务器向客户端推送实时事件。这种推送是基于HTTP协议的，并且使用一种特殊的MIME类型，即""，这使得服务器能够发送一系列的事件到客户端。的主要用途是实现服务器和客户端之间的实时通信。客户端通过创建一个对象并指定一个URL，就可以开始监听服务器在该URL上发送的事件。一旦服务器有新的事件数据要发送，它就会将这些数据以特定的格式（即""的形式）发送给客户端。客户端在接收到这些数据后，可以通过注册的事件处理函数来处理这些数据。
MySQL驱动扯后腿？Spring Boot用虚拟线程可能比用物理线程还差
程序猿DD
01-18 452
之前已经分享过多篇关于Spring Boot中使用Java 21新特性虚拟线程的性能测试案例：Spring Boot 3.2虚拟线程搭建静态文件服务器有多快？Spring Boot 虚拟线程与Webflux的性能比较早上看到群友问到一个关于虚拟线程遇到MySQL连接不兼容导致的性能问题：这个问题确实之前就有看到过相关的评测，顺着个这个问题，重新把相关评测找出来，给大家分享一下。以下内容主要参考...
SpringBoot 集成 WebFlux，请求大模型实现 “打字机” 流式响应效果
mst的专栏
03-06 1910
SpringBoot 集成 WebFlux，请求大模型实现 “打字机” 流式响应效果
SpringBoot版本的多线程下载文件，分段下载文件
11-24
新鲜出炉的SpringBoot版本的多线程下载文件，可以拿来整合SpringBoot项目或者SSM项目，可直接运行测试！！！
详解SpringBoot 多线程处理任务 无法@Autowired注入bean问题解决
08-25
主要介绍了详解SpringBoot 多线程处理任务 无法@Autowired注入bean问题解决，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧
Java多线程之定时任务 以及 SpringBoot多线程实现定时任务——异步任务
03-12
1. SpringBoot 自定义线程池以及多线程间的异步调用（@Async、@EnableAsync） 2.Java多线程之定时任务 以及 SpringBoot多线程实现定时任务 3.@EnableScheduling 与 @Scheduled
解决SpringBoot2多线程无法注入的问题
09-07
主要介绍了解决SpringBoot2多线程无法注入的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
SpringBoot 整合WebFlux
u014365523的博客
11-01 4935
webflux 异步框架
性能比较 - Spring Boot 应用程序中的线程池与虚拟线程 (Project Loom)
程序猿大波的博客
08-16 1846
因此，在本文中，我们还将探索使用虚拟线程来处理请求。但请注意，在不考虑系统容量和资源限制的情况下增加线程池中的线程数量可能会对性能、稳定性和整体系统行为产生不利影响。与本机线程相比，虚拟线程的内存占用量显着降低，允许应用程序创建和管理更多数量的线程，而不会耗尽系统资源。但需要注意的是，线程池和 WebFlux 都有各自的优点和缺点，选择取决于具体要求、工作负载的性质以及开发团队的专业知识。因此，我们可以初步得出结论，Java 21中虚拟线程的发布将显着改变现有服务器和框架中请求处理的方法。
Spring Boot（5）之 WebFlux 响应式编程
热门推荐
惟忆
01-20 4万+
1、WebFlux简介 springWebFlux 是 SpringFrameworl5.0 添加的新功能，WebFlux 本身是追随当下最火的 Reactive Programming 而诞生的框架，那么本编就来简述下这个框架到底是做什么的。 参考：Spring-WebFlux简介与使用 1.1、关于WebFlux 我们知道传统的Web框架，比如说：struts2，springmvc等都是基于Servlet API与Servlet容器基础之上运行的，在Servlet3.1之后才有了异步非阻塞的支持。而
flux服务器推消息,SpringBoot整合WebFlux实现SSE事件
weixin_28933797的博客
08-12 1724
前言在前台页面需要不停获取服务器端的数据时，无非有两种操作，一种是通过前台页面使用轮询的方式，定时向服务器后台发送请求，以获取最新的数据；另一种就是在前台页面和后台服务之间建立长连接，服务器端一有数据产生就向前端页面推送。这里的SSE是服务器发送事件(Server-Sent Events) 的缩写，在WebFlux框架里，服务器端是如何向前端(或调用端)实现服务器发送事件的呢？在有前端页面的情况下...
SpringBoot2.x（十六）响应式编程webflux和服务器端主动推送SSE
IT哈哈的博客
09-07 4012
何为响应式 想象一个排队买奶茶的场景： 场景一 客户们买奶茶需要到奶茶店前台排队，前台服务人员收到客户请求（如买一杯柠檬奶茶）后通知后台去做，后台做完后给前台，前台再给客户，该客户消费完成，轮到下一位客户购买 场景二 客户们买奶茶只需将请求报给前台服务人员（如买一杯巧克力味奶茶），前台服务人员马上打出一张付费票据给客户并告诉客户可在周围稍作等待（可能是十分钟左右），奶茶做好后会通过喇叭通知客...
使用 Docker 环境变量轻松配置 Spring Boot 应用程序：详细指南
nbsaas-boot基于Request-Response的企业级快速开发框架
05-29 453
通过上述步骤，你可以轻松地将 Spring Boot 应用程序打包到 Docker 容器中，并通过环境变量来配置关键参数，如数据库连接、用户名和密码。这样可以使你的应用程序更加灵活和便于部署。
spring boot 3.x版本 引入 swagger2启动时报错
最新发布
东皋长歌的专栏
05-31 773
級到Spring Boot 3.x之后，需要从Springfox迁移到SpringDoc，Springfox已经很久没有维护了，不兼容Spring Boot 3.x -->-- 引入1.5.22及以上版本的swagger组件，以解决example默认解析报错（NumberFormatException）的问题 -->Spring Boot版本是3.3.0。那么就针对这个修改pom引入就好了。在pom文件后面加上下面配置。
Spring Boot注解（Annotation）
刘大辉的博客
05-28 454
在Spring Boot中，注解（Annotation）是一种元数据形式，它可以在代码中提供信息，这些信息可以在运行时或编译时被处理。Spring Boot使用注解来实现依赖注入、事务管理、配置等功能。
Java高级---Spring Boot---3快速入门
B6665X的博客
05-28 633
demo├── mvnw└── src├── main│ │ └── (其他Java类文件)│ └── (其他资源文件)└── test└── (测试资源文件)pom.xml: Maven项目对象模型文件，定义项目的构建配置和依赖。: 存放主要的Java源代码。: 存放资源文件，如配置文件。: 存放测试代码。
springboot多线程
05-19
在SpringBoot中使用多线程的一种常见方式是创建一个实现了Runnable接口或继承了Thread类的类，并在其中实现多线程逻辑。然后，可以使用SpringBoot提供的@Async注解，将这些类的方法标记为异步执行。 以下是一个简单...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值