云服务器配置12核心,24G内存,java启动jar命令:
nohup $JAVA_HOME/bin/java -server -Xms10240m -Xmx14336m -Xmn9216m -XX:MetaspaceSize=400m -XX:MaxMetaspaceSize=5120m -XX:-OmitStackTraceInFastThrow -XX:+PrintGCDetails -XX:+PrintGCDateStamps -XX:+PrintHeapAtGC -Xloggc:./song_gc.log -XX:ErrorFile=./song_error.log -jar A P P H O M E / APP_HOME/ APPHOME/APP_MAINCLASS >> $LOG_FILE 2>&1 &
针对目前的容器优化,可以从以下几点考虑:
1、线程数 2、超时时间 3、JVM优化
1、线程数 2、超时时间
首先,线程数是一个重点,每一次HTTP请求到达Web服务器,Web服务器都会创建一个线程来处理该请求,该参数决定了应用服务同时可以处理多少个HTTP请求。
比较重要的有两个:初始线程数和最大线程数。
可以通过工程下的application.yml配置文件来改变这个值
server:
tomcat:
uri-encoding: UTF-8
max-threads: 1000
max-connections: 20000
初始线程数:保障启动的时候,如果有大量用户访问,能够很稳定的接受请求。最大线程数:用来保证系统的稳定性。
超时时间:用来保障连接数不容易被压垮。如果大批量的请求过来,延迟比较高,很容易把线程数用光,这时就需要提高超时时间。这种情况在生产中是比较常见的 ,一旦网络不稳定,宁愿丢包也不能把服务器压垮。
min-spare-threads:最小备用线程数,tomcat启动时的初始化的线程数。
max-threads:Tomcat可创建的最大的线程数,每一个线程处理一个请求,超过这个请求数后,客户端请求只能排队,等有线程释放才能处理。(建议这个配置数可以在服务器CUP核心数的200~250倍之间)
accept-count:当调用Web服务的HTTP请求数达到tomcat的最大线程数时,还有新的HTTP请求到来,这时tomcat会将该请求放在等待队列中,这个acceptCount就是指能够接受的最大等待数,默认100。如果等待队列也被放满了,这个时候再来新的请求就会被tomcat拒绝(connection refused)。
max-connections:这个参数是指在同一时间,tomcat能够接受的最大连接数。一般这个值要大于(max-threads)+(accept-count)。
connection-timeout:最长等待时间,如果没有数据进来,等待一段时间后断开连接,释放线程。
在spring boot配置文件中application.yml,添加以下配置:
这块对tomcat进行了一个优化配置,最大线程数是2500,初始化线程是500,超时时间是12000ms;
# Tomcat
server:
tomcat:
uri-encoding: UTF-8
#最小线程数
min-spare-threads: 500
#最大线程数 ,默认是200
max-threads: 2500
#最大链接数,默认不设置,默认是10000
max-connections: 6500
#最大等待队列长度,允许HTTP请求缓存到请求队列的最大个数,默认不限制
accept-count: 1000
#请求头最大长度kb
max-http-header-size: 1048576
#请请求体最大长度kb
#max-http-post-size: 2097152
max-http-post-size: #HTTP POST内容最大长度,默认不限制
#服务http端口
port: 8080
#链接建立超时时间
connection-timeout: 12000
servlet:
#访问根路径
context-path: /song
server:
tomcat:
accesslog:
enabled: false #打开tomcat访问日志
directory: logs # 访问日志所在的目录
这些参数最终在ServerProperties.Tomcat类中体现
Tomcat是一个静态内部类,其中包含了一下属性
maxThreads 最大工作线程数
minSpareThreads 最小工作线程数
maxHttpPostSize HTTP POST内容最大长度
internalProxies 受信任IP校验正则表达式
protocolHeader 协议头,通常设置为X-Forwarded-Proto
protocolHeaderHttpsValue 协议头的内容,判断是否使用了SSL,默认值是https
portHeader 用于覆盖原始端口值的HTTP头的名称,默认为X-Forwarded-Port
redirectContextRoot 对上下文根的请求是否应该通过附加/到路径来重定向
useRelativeRedirects 设置通过调用sendRedirect生成的HTTP 1.1和后面的位置头是使用相对重定向还是使用绝对重定向
remoteIpHeader 提取远程IP的HTTP头的名称。例如X-FORWARDED-FOR
maxConnections 最大连接数,如果一旦连接数到达,剩下的连接将会保存到请求缓存队列里,也就是accept-count指定队列
maxHttpHeaderSize HTTP消息头的最大值(以字节为单位)
acceptCount 当所有可能的请求处理线程都在使用时,传入连接请求的最大队列长度
Tomcat拥有一个静态内部类Accesslog,主要用于配置Tomcat访问日志的参数信息
enabled 是否启用访问日志
pattern 访问日志的格式化模式,默认为common
directory 创建日志文件的目录。可以是绝对的或相对于Tomcat的基目录,默认是logs
prefix 日志文件名称前缀,默认为access_log
suffix 日志文件名称后缀,默认为.log
rotate 是否启用访问日志旋转,默认为true
renameOnRotate 是否推迟将日期戳包含在文件名中直到旋转时间。
fileDateFormat 日志文件名称中的日期格式,默认为.yyyy-MM-dd。
requestAttributesEnabled 为请求使用的IP地址、主机名、协议和端口设置请求属性。
buffered 是否缓冲输出,使其只定期刷新,默认为true
3.JVM优化
springboot只是内嵌了tomcat而已, 所以使用的内存其实就是springboot这个进程的内存,所以可以通过启动命令的时候 增加 -Xmx -Xms 这类的参数来设置内存的大小。
tomcat是没有单独配置内存大小一说的, 你说的之前的catalina.sh里面设置的内存大小其实也只是针对这个启动进程进行配置。
另外一些tomcat的配置可以在server.tomcat下面进行配置,主要是配置tomcat容器的最大连接数这类的参数。
JVM优化一般来说没有太多场景,无非就是加大初始的堆,和最大限制堆,当然也不能无限增大,要根据实际情况优化。
初始内存和最大内存基本会设置成一样的,具体大小根据场景设置,-server是一个必须要用的参数,至于收集器这些使用默认的就可以了,除非有特定需求。
1.使用-server模式:设置JVM使用server模式。64位JDK默认启动该模式。
2.指定堆参数:这个根据服务器的内存大小,来设置堆参数。
-Xms :设置Java堆栈的初始化大小
-Xmx :设置最大的java堆大小
设置初始化堆内存为10240MB,最大为14336MB。
参考:https://www.cnblogs.com/lys_013/p/13185940.html
https://www.hangge.com/blog/cache/detail_2457.html
https://blog.csdn.net/kouwoo/article/details/83898788