【JAVA】Undertow的使用及性能优化，以及Undertow与Tomcat的对比

文章目录

更多相关内容可查看

当你进行Tomcat调优发现在怎么调都无法满足需求的时候，Undertow容器在性能和内存上都优于Tomcat容器，因此选择Undertow容器并进行调优是更好的选择。

Undertow优势

Undertow

是一个轻量级的、高性能的 Java Web 服务器，由 JBoss 开发并开源。它是基于

非阻塞（non-blocking）

的I/O模型，具有低资源消耗和高并发处理能力。

• 支持 HTTP/2：Undertow 开箱即支持 HTTP/2，无需重写启动类路径。
• 支持 HTTP Upgrade：允许通过 HTTP 端口复用多种协议。
• 支持 Web Socket：Undertow 提供对 Web Sockets 的全面支持，包括 JSR-356 支持。
• Servlet 4.0：Undertow 支持 Servlet 4.0，包括对嵌入式 Servlet 的支持。还可以在同一部署中混合使用 Servlet 和原生 undertow 非阻塞 handler。
• 可嵌入式：只需几行代码，即可将 Undertow 嵌入应用程序或独立运行。
• 灵活性：Undertow 通过链式 handler 进行配置，可以根据需求灵活地添加功能。

在很多场景的测试下， Undertow 的性能都高于 Tomcat。天生适合作为 Spring Boot 应用的嵌入式服务器

Undertow使用

Spring Boot 默认使用

Tomcat

作为嵌入式服务。所以

 spring-boot-starter-web

默认依赖了

 spring-boot-starter-tomcat

。

要使用

 Undertow

首先要从 spring-boot-starter-web 排除 spring-boot-starter-tomcat，再添加

spring-boot-starter-undertow 

依赖

<dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId><exclusions><exclusion><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-tomcat</artifactId></exclusion></exclusions></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-undertow</artifactId></dependency>

具体配置跟tomcat性质一样，可以参考以下官方文档，这里不做列举。除了配置对应的xml文件还可以通过实现接口实现

importorg.springframework.boot.web.embedded.undertow.UndertowServletWebServerFactory;importorg.springframework.boot.web.server.WebServerFactoryCustomizer;importorg.springframework.context.annotation.Configuration;@ConfigurationpublicclassUndertowConfigurationimplementsWebServerFactoryCustomizer<UndertowServletWebServerFactory>{@Overridepublicvoidcustomize(UndertowServletWebServerFactory factory){
        factory.setBufferSize(8192);// 其他自定义配置 ...}}

所以只需更换一个依赖即可使用，还是很方便的。更换完重新启动你的控制台Tomcat Start就会变成Undertow Start

Undertow性能优化

线程池配置

在SpringBoot应用的application.properties或application.yml中，可以调整Undertow的线程池设置。包括IO线程和工作线程的设置

• server.undertow.io-threads：设置IO线程数，负责处理非阻塞的网络IO。通常设置为与CPU核心数相等的值。它们会负责多个连接,不要设置过大，如果过大，启动项目会报错：打开文件数过多
• server.undertow.worker-threads：阻塞任务线程池, 当执行类似servlet请求阻塞IO操作,undertow会从这个线程池中取得线程,它的值设置取决于系统线程执行任务的阻塞系数，默认值是IO线程数*8

server.undertow.io-threads=8
server.undertow.worker-threads=128

缓冲区和内存使用

• server.undertow.buffer-size：设置每个缓冲区的大小。以下的配置会影响buffer,这些buffer会用于服务器连接的IO操作,有点类似netty的池化内存管理,每块buffer的空间大小,越小的空间被利用越充分，不要设置太大，以免影响其他应用，合适即可
• server.undertow.direct-buffers：是否分配的直接内存(NIO直接分配的堆外内存)
• server.undertow.buffers-per-region: 每个区分配的buffer数量，所以pool的大小是buffer-size * buffers-per-region

server.undertow.buffer-size=1024
server.undertow.direct-buffers=true

连接和请求超时

• server.undertow.max-http-post-size：设置HTTP POST请求的最大内容大小，以适应可能的文件上传或大批量数据提交。
• server.undertow.no-request-timeout：设置连接在不处理请求的情况下闲置的时间。

server.undertow.max-http-post-size=0 # 不限制大小，或根据实际情况调整
server.undertow.no-request-timeout=1800s # 例如，设置为30分钟

禁用无关的设置

• server.undertow.session-cookie-config：设置会话cookie的配置，可以选择不使用cookie以减少HTTP响应的大小。
• server.undertow.accesslog.enabled：根据需要启用或禁用访问日志。

server.undertow.session-cookie-config=none
server.undertow.accesslog.enabled=false

编程式配置

通过实现WebServerFactoryCustomizer接口来编程式地配置Undertow,可以更加灵活。

启用HTTP/2

通过配置启用Undertow支持的HTTP/2，可以提高网络传输效率。

其实本质上还是跟tomcat很像的，一些优化的方向以及配置策略，大家可以将二者好好贯通一下便于理解

Undertow与Tomcat的对比

先看一下QPS测试结果对比

Tomcat

Undertow

内存使用对比：

Tomcat

Undertow

通过测试发现，在高并发系统中，Tomcat 相对来说比较弱。在相同的机器配置下，模拟相等的请求数，Undertow 在性能和内存使用方面都是最优的。并且 Undertow 新版本默认使用持久连接，这将会进一步提高它的并发吞吐能力。所以，如果是高并发的业务系统，Undertow 是最佳选择。

场景

以下是一些Undertow 可能更适合的场景，大家在面试中或者实际业务中可以考虑是否使用
当然！以下是十个具体的业务场景，其中使用 Undertow 比 Tomcat 更加合适：

1. 实时数据流处理平台：- 场景：实时处理大规模传感器数据或金融市场数据流，例如高频交易系统或实时监控平台。- 理由：Undertow 的非阻塞 I/O 模型适合处理高并发和低延迟的数据流。
2. 在线游戏服务器：- 场景：为多人在线游戏提供后端服务，例如游戏房间管理和玩家匹配。- 理由：Undertow 能处理大量并发连接和低延迟请求，适合需要高性能的在线游戏环境。
3. 微服务架构中的 API 网关：- 场景：构建一个微服务架构中的 API 网关，处理来自不同服务的请求并进行负载均衡。- 理由：Undertow 的高性能和轻量级特性使其在微服务环境中表现优异。
4. 高频交易平台：- 场景：为金融市场提供高频交易服务，需要极低的延迟和快速的请求处理。- 理由：Undertow 的高效异步处理能力适合高频交易中的低延迟需求。
5. 大规模的 RESTful API 服务：- 场景：提供大规模的 RESTful API 服务，例如数据存储和检索服务。- 理由：Undertow 能处理大量的 API 请求，适合高流量环境。
6. 实时通信应用：- 场景：开发实时聊天应用或实时视频会议平台，需要高并发和低延迟。- 理由：Undertow 支持 WebSocket，适合实时双向通信应用。
7. 高效的 Web 爬虫和抓取服务：- 场景：开发一个高效的网络爬虫，抓取大量网页数据。- 理由：Undertow 的低开销和高吞吐量适合处理大量 HTTP 请求。
8. 轻量级的嵌入式 Web 服务器：- 场景：将 Web 服务器嵌入到物联网设备或桌面应用中，例如智能家居控制中心。- 理由：Undertow 的轻量级和嵌入式特性适合资源受限的环境。
9. 动态生成的 Web 服务：- 场景：提供动态生成内容的 Web 服务，例如广告服务器或实时报告生成。- 理由：Undertow 的快速启动和高性能适合处理动态内容生成的需求。
10. 开发和测试环境：- 场景：在开发和测试过程中需要快速启动和关闭的 Web 服务器，例如本地测试环境中的开发应用。- 理由：Undertow 的启动速度快且资源消耗低，适合开发和测试阶段的高效使用。