性能压测-并发容量问题

性能优化===>修改tomcat的线程池

 

import org.apache.catalina.connector.Connector;
import org.apache.coyote.http11.Http11NioProtocol;
import org.springframework.boot.web.embedded.tomcat.TomcatConnectorCustomizer;
import org.springframework.boot.web.embedded.tomcat.TomcatServletWebServerFactory;
import org.springframework.boot.web.server.ConfigurableWebServerFactory;
import org.springframework.boot.web.server.WebServerFactoryCustomizer;
import org.springframework.stereotype.Component;


//当spring容器内没有TomcatEmbeddedServletContainerFactory这个bean时，会把此bean加载进来
@Component //让springboot可以把它加载为一个bean
public class WebServerConfiguration implements WebServerFactoryCustomizer<ConfigurableWebServerFactory> {
    @Override
    public void customize(ConfigurableWebServerFactory factory) {
//        使用对应工厂类提供给我们的接口定制化我们的tomcat connector
        ((TomcatServletWebServerFactory) factory).addConnectorCustomizers(new TomcatConnectorCustomizer() {
            @Override
            public void customize(Connector connector) {
                Http11NioProtocol protocol = (Http11NioProtocol) connector.getProtocolHandler();
                protocol.setMaxConnections(2000); //最大连接数
                protocol.setMaxThreads(800);  //最大线程数
                protocol.setMinSpareThreads(100); //最小线程数

                //定制化keepAliveTimeOut
                protocol.setKeepAliveTimeout(30000); //设置 30s 内没有请求则服务端自动断开 keepalive 连接
                //当客户端发送超过 10000 个请求，则自动断开 keepalive 连接
                protocol.setMaxKeepAliveRequests(10000);
            }
        });

    }
}

关于单机4核8g的线程数的拐点，经过压力测试可以得出经验是在800，虽然说服务器的tps吞吐量会随着线程数的增多而增多，，但是如果线程数超过了配置的对应拐点后，反而不会增多，因为cup处理不过来这么多线程，忙于线程调度，吞吐量自然上不去。

　　当线程超过800后会进入缓冲池，但是也不能太长，因为太消耗内存了，队列出队也消耗cpu，所以设置在1000-2000左右就可以了，超过的就拒绝链接

使用jmeter工具测试后发现（2000个线程，10秒，100次循环），用pstree -p pid | wc -l 后发现最大的tomcat线程数达到了430个，在之前只有118个。