【JAVA】Undertow的使用及性能优化，以及Undertow与Tomcat的对比

更多相关内容可查看

当你进行Tomcat调优发现在怎么调都无法满足需求的时候，Undertow容器在性能和内存上都优于Tomcat容器，因此选择Undertow容器并进行调优是更好的选择。

Undertow优势

Undertow 是一个轻量级的、高性能的 Java Web 服务器，由 JBoss 开发并开源。它是基于非阻塞（non-blocking）的I/O模型，具有低资源消耗和高并发处理能力。

• 支持 HTTP/2：Undertow 开箱即支持 HTTP/2，无需重写启动类路径。
• 支持 HTTP Upgrade：允许通过 HTTP 端口复用多种协议。
• 支持 Web Socket：Undertow 提供对 Web Sockets 的全面支持，包括 JSR-356 支持。
• Servlet 4.0：Undertow 支持 Servlet 4.0，包括对嵌入式 Servlet 的支持。还可以在同一部署中混合使用
  Servlet 和原生 undertow 非阻塞 handler。
• 可嵌入式：只需几行代码，即可将 Undertow 嵌入应用程序或独立运行。
• 灵活性：Undertow 通过链式 handler 进行配置，可以根据需求灵活地添加功能。

在很多场景的测试下， Undertow 的性能都高于 Tomcat。天生适合作为 Spring Boot 应用的嵌入式服务器

---

Undertow使用

Spring Boot 默认使用Tomcat作为嵌入式服务。所以 spring-boot-starter-web 默认依赖了 spring-boot-starter-tomcat。

要使用 Undertow 首先要从 spring-boot-starter-web 排除 spring-boot-starter-tomcat，再添加 spring-boot-starter-undertow 依赖

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-web</artifactId>
    <exclusions>
        <exclusion>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-tomcat</artifactId>
        </exclusion>
    </exclusions>
</dependency>
<dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-undertow</artifactId>
</dependency>

具体配置跟tomcat性质一样，可以参考以下官方文档，这里不做列举。除了配置对应的xml文件还可以通过实现接口实现

import org.springframework.boot.web.embedded.undertow.UndertowServletWebServerFactory;
import org.springframework.boot.web.server.WebServerFactoryCustomizer;
import org.springframework.context.annotation.Configuration;

@Configuration
public class UndertowConfiguration implements WebServerFactoryCustomizer<UndertowServletWebServerFactory>{

    @Override
    public void customize(UndertowServletWebServerFactory factory) {
        factory.setBufferSize(8192);
        // 其他自定义配置 ...
    }
}

所以只需更换一个依赖即可使用，还是很方便的。更换完重新启动你的控制台Tomcat Start就会变成Undertow Start

Undertow性能优化

线程池配置

在SpringBoot应用的application.properties或application.yml中，可以调整Undertow的线程池设置。包括IO线程和工作线程的设置

• server.undertow.io-threads：设置IO线程数，负责处理非阻塞的网络IO。通常设置为与CPU核心数相等的值。它们会负责多个连接,不要设置过大，如果过大，启动项目会报错：打开文件数过多
• server.undertow.worker-threads：阻塞任务线程池, 当执行类似servlet请求阻塞IO操作,undertow会从这个线程池中取得线程,它的值设置取决于系统线程执行任务的阻塞系数，默认值是IO线程数*8

server.undertow.io-threads=8
server.undertow.worker-threads=128

缓冲区和内存使用

• server.undertow.buffer-size：设置每个缓冲区的大小。以下的配置会影响buffer,这些buffer会用于服务器连接的IO操作,有点类似netty的池化内存管理,每块buffer的空间大小,越小的空间被利用越充分，不要设置太大，以免影响其他应用，合适即可
• server.undertow.direct-buffers：是否分配的直接内存(NIO直接分配的堆外内存)
• server.undertow.buffers-per-region:
  每个区分配的buffer数量，所以pool的大小是buffer-size * buffers-per-region

server.undertow.buffer-size=1024
server.undertow.direct-buffers=true

连接和请求超时

• server.undertow.max-http-post-size：设置HTTP POST请求的最大内容大小，以适应可能的文件上传或大批量数据提交。
• server.undertow.no-request-timeout：设置连接在不处理请求的情况下闲置的时间。

server.undertow.max-http-post-size=0 # 不限制大小，或根据实际情况调整
server.undertow.no-request-timeout=1800s # 例如，设置为30分钟

禁用无关的设置

• server.undertow.session-cookie-config：设置会话cookie的配置，可以选择不使用cookie以减少HTTP响应的大小。
• server.undertow.accesslog.enabled：根据需要启用或禁用访问日志。

server.undertow.session-cookie-config=none
server.undertow.accesslog.enabled=false

编程式配置

通过实现WebServerFactoryCustomizer接口来编程式地配置Undertow,可以更加灵活。

启用HTTP/2

通过配置启用Undertow支持的HTTP/2，可以提高网络传输效率。

其实本质上还是跟tomcat很像的，一些优化的方向以及配置策略，大家可以将二者好好贯通一下便于理解

---

Undertow与Tomcat的对比

先看一下QPS测试结果对比

Tomcat

Undertow

内存使用对比：

Tomcat

Undertow

通过测试发现，在高并发系统中，Tomcat 相对来说比较弱。在相同的机器配置下，模拟相等的请求数，Undertow 在性能和内存使用方面都是最优的。并且 Undertow 新版本默认使用持久连接，这将会进一步提高它的并发吞吐能力。所以，如果是高并发的业务系统，Undertow 是最佳选择。

场景

以下是一些Undertow 可能更适合的场景，大家在面试中或者实际业务中可以考虑是否使用
当然！以下是十个具体的业务场景，其中使用 Undertow 比 Tomcat 更加合适：

1. 实时数据流处理平台：

   • 场景：实时处理大规模传感器数据或金融市场数据流，例如高频交易系统或实时监控平台。
   • 理由：Undertow 的非阻塞 I/O 模型适合处理高并发和低延迟的数据流。

2. 在线游戏服务器：

   • 场景：为多人在线游戏提供后端服务，例如游戏房间管理和玩家匹配。
   • 理由：Undertow 能处理大量并发连接和低延迟请求，适合需要高性能的在线游戏环境。

3. 微服务架构中的 API 网关：

   • 场景：构建一个微服务架构中的 API 网关，处理来自不同服务的请求并进行负载均衡。
   • 理由：Undertow 的高性能和轻量级特性使其在微服务环境中表现优异。

4. 高频交易平台：

   • 场景：为金融市场提供高频交易服务，需要极低的延迟和快速的请求处理。
   • 理由：Undertow 的高效异步处理能力适合高频交易中的低延迟需求。

5. 大规模的 RESTful API 服务：

   • 场景：提供大规模的 RESTful API 服务，例如数据存储和检索服务。
   • 理由：Undertow 能处理大量的 API 请求，适合高流量环境。

6. 实时通信应用：

   • 场景：开发实时聊天应用或实时视频会议平台，需要高并发和低延迟。
   • 理由：Undertow 支持 WebSocket，适合实时双向通信应用。

7. 高效的 Web 爬虫和抓取服务：

   • 场景：开发一个高效的网络爬虫，抓取大量网页数据。
   • 理由：Undertow 的低开销和高吞吐量适合处理大量 HTTP 请求。

8. 轻量级的嵌入式 Web 服务器：

   • 场景：将 Web 服务器嵌入到物联网设备或桌面应用中，例如智能家居控制中心。
   • 理由：Undertow 的轻量级和嵌入式特性适合资源受限的环境。

9. 动态生成的 Web 服务：

   • 场景：提供动态生成内容的 Web 服务，例如广告服务器或实时报告生成。
   • 理由：Undertow 的快速启动和高性能适合处理动态内容生成的需求。

10. 开发和测试环境：

    • 场景：在开发和测试过程中需要快速启动和关闭的 Web 服务器，例如本地测试环境中的开发应用。
    • 理由：Undertow 的启动速度快且资源消耗低，适合开发和测试阶段的高效使用。