在Kubernetes中,需要设置tomcat/undertow的线程数,可在yaml文件中设置,以deployment为例子
1、Undertow和Tomcat对比
在SpringBoot框架中,我们使用最多的是Tomcat,这是SpringBoot默认的容器技术,而且是内嵌式的Tomcat。
同时,SpringBoot也支持Undertow容器,可以很方便的用Undertow替换Tomcat,而Undertow的性能和内存使用方面都优于Tomcat
具体优劣势参考文章:https://www.yisu.com/zixun/537090.html
2、设置tomcat线程数
pom依赖
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
<exclusions>
<exclusion>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-tomcat</artifactId>
</exclusion>
</exclusions>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-undertow</artifactId>
</dependency>
1、Tomcat默认线程数200
2、参数解释:
maxThreads=“400” //启动的最大线程数,即同时处理的任务个数,默认值为100。
minSpareThreads=“100” //初始化时创建的线程数
maxSpareThreads=“500” //一旦创建的线程超过这个值,Tomcat就会关闭不再需要的socket线程
acceptCount=“800” //启动的线程数达到最大时,接受排队的请求个数,超过这个数的请求将不予处理,默认值为200
maxConnections=“400” //服务器在任何给定时间将接受和处理的最大连接数,一般不需要设置
3、k8s容器部署下设置tomcat的线程数,栗子:
-Dserver.tomcat.accept-count=800
-Dserver.tomcat.max-threads=400
-Dserver.tomcat.min-spare-threads=100
注意:线程数的增加会增加Tomcat内存使用,每个线程都会占用一定的jvm内存。
3、设置undertow线程数
pom依赖
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-undertow</artifactId>
</dependency>
1、常见undertow的线程数配置
server.undertow.io-threads=8 //设置IO线程数, 它主要执行非阻塞的任务,它们会负责多个连接, 默认设置每个CPU核心一个线程;
server.undertow.worker-threads=64 //# 阻塞任务线程池, 当执行类似servlet请求阻塞IO操作, undertow会从这个线程池中取得线程,默认值是IO线程数*8;
# 以下的配置会影响buffer,这些buffer会用于服务器连接的IO操作,有点类似netty的池化内存管理;
server.undertow.buffer-size=1024 //# 每块buffer的空间⼤⼩,越⼩的空间被利⽤越充分
server.undertow.buffers-per-region=1024 //每个区分配的buffer数量 , 所以pool的大小是buffer-size * buffers-per-region
server.undertow.direct-buffers=true //是否分配的直接内存(NIO直接分配的堆外内存)
2、k8s部署服务时,我们可以在deployment中设置undertow的线程数,栗子:
-Dserver.undertow.io-threads=16
-Dserver.undertow.worker-threads=128