Tomcat深度剖析及性能调优

一、 Tomcat 系统架构与原理剖析

b/s(浏览器/服务器模式) 浏览器是客户端(发送http请求) ———> 服务器端

1. 浏览器访问服务器的流程

http请求的处理过程:
http请求处理流程

2. Tomcat 系统总体架构

2.1 Tomcat 请求处理⼤致过程

Tomcat是⼀个Http服务器(能够接收并且处理http请求,所以tomcat是⼀个http服务器)
Tomcat请求流程
Servlet接⼝和Servlet容器这⼀整套内容叫作Servlet规范。
Tomcat 两个重要的身份 1. http服务器 2. Servlet 容器

2.2 Tomcat Servlet容器处理流程

当⽤户请求某个URL资源时
1)HTTP服务器会把请求信息使⽤ServletRequest对象封装起来
2)进⼀步去调⽤Servlet容器中某个具体的Servlet
3)在 2)中,Servlet容器拿到请求后,根据URL和Servlet的映射关系,找到相应的Servlet
4)如果Servlet还没有被加载,就⽤反射机制创建这个Servlet,并调⽤Servlet的init⽅法来完成初始化
5)接着调⽤这个具体Servlet的service⽅法来处理请求,请求处理结果使⽤ServletResponse对象封装
6)把ServletResponse对象返回给HTTP服务器,HTTP服务器会把响应发送给客户端
servlet处理流程

2.3 Tomcat 系统总体架构

总体架构图
连接器,负责对外交流: 处理Socket连接,负责⽹络字节流与Request和Response对象的转化;
容器,负责内部处理:加载和管理Servlet,以及具体处理Request请求;

3. Tomcat 连接器组件 Coyote

3.1 Coyote 简介

Coyote 是Tomcat 中连接器的组件名称 , 是对外的接⼝。客户端通过Coyote与服务器建⽴连接、发送请
求并接受响应 。
(1)Coyote 封装了底层的⽹络通信(Socket 请求及响应处理)
(2)Coyote 使Catalina 容器(容器组件)与具体的请求协议及IO操作⽅式完全解耦
(3)Coyote 将Socket 输⼊转换封装为 Request 对象,进⼀步封装后交由Catalina 容器进⾏处理,处
理请求完成后, Catalina 通过Coyote 提供的Response 对象将结果写⼊输出流
(4)Coyote 负责的是具体协议(应⽤层)和IO(传输层)相关内容

Coyote
Tomcat⽀持多种应⽤层协议和I/O模型,如下:
Tomcat支持应用协议
在 8.0 之前 ,Tomcat 默认采⽤的I/O⽅式为 BIO。

3.2 Coyote 的内部组件及流程

Coyote内部处理组件流程
Coyote 组件以及作用 :

组件作用
EndPointEndPoint 是监听的接⼝,是Socket接收和发送处理器,是对传输层的抽象,因此EndPoint⽤来实现TCP/IP协议的
ProcessorProcessor 是Coyote 协议处理接⼝,Processor⽤来实现HTTP协议,Processor接收来⾃EndPoint的Socket,读取字节流解析成Tomcat Request和Response对象,并通过Adapter将其提交到容器处理,Processor是对应⽤层协议的抽象
ProtocolHandlerCoyote 协议接⼝, 通过Endpoint 和 Processor , 实现针对具体协议的处理能⼒。Tomcat 按照协议和I/O 提供了6个实现类 : AjpNioProtocol ,AjpAprProtocol,AjpNio2Protocol ,Http11NioProtocol Http11Nio2Protocol ,Http11AprProtocol
Adapter协议不同,请求信息也不同,Tomcat定义了Request封装信息。将ProtocolHandler 处理成 ServletRequest,这是经典的适配器模式,连接器调用CoyoteAdapter的Sevice⽅法,将Tomcat Request -> ServletRequest

4. Tomcat Servlet 容器 Catalina

4.1 Tomcat 模块分层结构图及Catalina位置

Tomcat 可以通过 (conf/server.xml)的组件构成的Web容器,⽽Catalina是Tomcat的
servlet容器。Catalina 才是 Tomcat 的核⼼。 其他模块都是为Catalina 提供⽀撑的。 ⽐如 : 通过 Coyote 模块提供链接通信,Jasper 模块提供 JSP 引擎,Naming 提供JNDI 服务,Juli 提供⽇志服务。

Catalina分层结构图

4.2 Servlet 容器 Catalina 的结构

Catalina实例catalina实例图
可认知为整个Tomcat就是一个Catalina实例,Tomcat启动会初始化这个实例,Catalina 实例通过加载server.xml 完成其他实例创建,创建管理一个Server,Server创建多个Serivce,每个Service有多个Connector 和一个Container。

⚠️:多个Connector 对应 一个 Container/Engine

组件作用描述
Catalina解析conf/server.xml,以此创建Server并管理。
Server表示整个Catalina Servlet容器以及其他组件,负责启动Servlet引擎,Tomcat连接器Connector
ServiceServer内部组件,⼀个Server包含多个Service。它将若⼲个Connector组件绑定到⼀个Container
Container容器,负责处理⽤户的servlet请求,并返回对象给web⽤户的模块

4.3 Container 组件的具体结构

Container组件下有⼏种具体的组件,分别是Engine、Host、Context和Wrapper。这4种组件(容器)
是⽗⼦关系。(都是一对多)Tomcat通过⼀种分层的架构,使得Servlet容器具有很好的灵活性。包含如下组件:

  • Engine :表示整个Catalina的Servlet引擎,用来管理多个虚拟站点,一个Service最多只能有一个Engine,但是可以包含多个Host。
  • Host :代表一个虚拟主机,(例如一个www.abc.com域名就是一个虚拟主机),而一个虚拟主机可以包含多个Context。
  • Context :代表一个Web应用,⼀个Web应⽤可包含多个Wrapper。
  • Wrapper :表示⼀个Servlet,Wrapper 作为容器中的最底层,不能包含⼦容器

上述组件的配置其实就体现在conf/server.xml中。

二、Tomcat 服务器核⼼配置详解

1. 配置路径 & 如何配置

根目录 -> conf/server.xml,server.xml中包含了 Servlet容器的相关配置,即 Catalina 的配置。主要是标签的使用。

主要标签结构如下:

<!--Server 根元素,创建⼀个Server实例,⼦标签有 Listener、GlobalNamingResources、Service-->
<Server>
<!--定义监听器-->
<Listener/>
<!--定义服务器的全局JNDI资源 -->
<GlobalNamingResources/>
<!--定义⼀个Service服务,⼀个Server标签可以有多个Service服务实例-->
<Service/>
</Server>
Server 标签
<!--port:关闭服务器的监听端⼝ shutdown:关闭服务器的指令字符串-->
<Server port="8005" shutdown="SHUTDOWN">
	<!-- 以⽇志形式输出服务器 、操作系统、JVM的版本信息 -->
	<Listener className="org.apache.catalina.startup.VersionLoggerListener" />
	<!-- Security listener. Documentation at /docs/config/listeners.html
	<Listener className="org.apache.catalina.security.SecurityListener" />
	-->
	<!--APR library loader. Documentation at /docs/apr.html -->
	<!-- 加载(服务器启动) 和 销毁 (服务器停⽌) APR。 如果找不到APR库, 则会输出⽇志, 并
	不影响 Tomcat启动 -->
	<Listener className="org.apache.catalina.core.AprLifecycleListener"
	SSLEngine="on" />
	<!-- Prevent memory leaks due to use of particular java/javax APIs-->
	<!-- 避免JRE内存泄漏问题 -->
	<Listener className="org.apache.catalina.core.JreMemoryLeakPreventionListener" />
	<!-- 加载(服务器启动) 和 销毁(服务器停⽌) 全局命名服务 -->
	<Listener className="org.apache.catalina.mbeans.GlobalResourcesLifecycleListener" />
	<!-- 在Context停⽌时重建 Executor 池中的线程, 以避免ThreadLocal 相关的内存泄漏 -->
	<Listener className="org.apache.catalina.core.ThreadLocalLeakPreventionListener" />
	
	<!-- Global JNDI resources
	Documentation at /docs/jndi-resources-howto.html
	GlobalNamingResources 中定义了全局命名服务
	-->
	<GlobalNamingResources>
	<!-- Editable user database that can also be used by
	UserDatabaseRealm to authenticate users
	-->
		<Resource name="UserDatabase" auth="Container" type="org.apache.catalina.UserDatabase"
		description="User database that can be updated and saved"
		factory="org.apache.catalina.users.MemoryUserDatabaseFactory"
		pathname="conf/tomcat-users.xml" />
	</GlobalNamingResources>
<!-- A "Service" is a collection of one or more "Connectors" that share
a single "Container" Note: A "Service" is not itself a "Container",
so you may not define subcomponents such as "Valves" at this level.
Documentation at /docs/config/service.html
-->
<Service name="Catalina">
...
</Service>
Service 标签
<!--
该标签⽤于创建 Service 实例,默认使⽤ org.apache.catalina.core.StandardService。
默认情况下,Tomcat 仅指定了Service 的名称, 值为 "Catalina"。
Service ⼦标签为 : Listener、Executor、Connector、Engine,
其中:
Listener ⽤于为Service添加⽣命周期监听器,
Executor ⽤于配置Service 共享线程池,
Connector ⽤于配置Service 包含的链接器,
Engine ⽤于配置Service中链接器对应的Servlet 容器引擎
-->
<Service name="Catalina">
...
</Service>
Executor 标签
<!-- 默认情况下,Service 并未添加共享线程池配置。 如果我们想添加⼀个线程池, 可以在
<Service> 下添加如下配置:
name:线程池名称,⽤于 Connector中指定
namePrefix:所创建的每个线程的名称前缀,⼀个单独的线程名称为
namePrefix+threadNumber
maxThreads:池中最⼤线程数
minSpareThreads:活跃线程数,也就是核⼼池线程数,这些线程不会被销毁,会⼀直存在
maxIdleTime:线程空闲时间,超过该时间后,空闲线程会被销毁,默认值为6000(1分钟),单位
毫秒
maxQueueSize:在被执⾏前最⼤线程排队数⽬,默认为Int的最⼤值,也就是⼴义的⽆限。除⾮特
殊情况,这个值 不需要更改,否则会有请求不会被处理的情况发⽣
prestartminSpareThreads:启动线程池时是否启动 minSpareThreads部分线程。默认值为
false,即不启动
threadPriority:线程池中线程优先级,默认值为5,值从1到10
className:线程池实现类,未指定情况下,默认实现类为
org.apache.catalina.core.StandardThreadExecutor。如果想使⽤⾃定义线程池⾸先需要实现
org.apache.catalina.Executor接⼝
-->
<Executor name="commonThreadPool"
namePrefix="thread-exec-"
maxThreads="200"
minSpareThreads="100"
maxIdleTime="60000"
maxQueueSize="Integer.MAX_VALUE"
prestartminSpareThreads="false"
threadPriority="5"
className="org.apache.catalina.core.StandardThreadExecutor"/>
Connector 标签

Connector 标签⽤于创建链接器实例
默认情况下,server.xml 配置了两个链接器,⼀个⽀持HTTP协议,⼀个⽀持AJP协议
⼤多数情况下,我们并不需要新增链接器配置,只是根据需要对已有链接器进⾏优化

<!--
port:
端⼝号,Connector ⽤于创建服务端Socket 并进⾏监听, 以等待客户端请求链接。如果该属性设置
为0, Tomcat将会随机选择⼀个可⽤的端⼝号给当前Connector 使⽤
protocol:
当前Connector ⽀持的访问协议。 默认为 HTTP/1.1 , 并采⽤⾃动切换机制选择⼀个基于 JAVA
NIO 的链接器或者基于本地APR的链接器(根据本地是否含有Tomcat的本地库判定)
connectionTimeOut:
Connector 接收链接后的等待超时时间, 单位为 毫秒。 -1 表示不超时。
redirectPort:
当前Connector 不⽀持SSL请求, 接收到了⼀个请求, 并且也符合security-constraint 约束,
需要SSL传输,Catalina⾃动将请求重定向到指定的端⼝。
executor:
指定共享线程池的名称, 也可以通过maxThreads、minSpareThreads 等属性配置内部线程池。
URIEncoding:
⽤于指定编码URI的字符编码, Tomcat8.x版本默认的编码为 UTF-8 , Tomcat7.x版本默认为ISO-
8859-1
-->
<!--org.apache.coyote.http11.Http11NioProtocol , ⾮阻塞式 Java NIO 链接器-->
<Connector port="8080" protocol="HTTP/1.1" connectionTimeout="20000"
redirectPort="8443" />
<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />

可以使⽤共享线程池

<Connector port="8080"
		protocol="HTTP/1.1"
		executor="commonThreadPool"
		maxThreads="1000"
		minSpareThreads="100"
		acceptCount="1000"
		maxConnections="1000"
		connectionTimeout="20000"
		compression="on"
		compressionMinSize="2048"
		disableUploadTimeout="true"
		redirectPort="8443"
		URIEncoding="UTF-8" />
Engine 标签

Engine 表示 Servlet 引擎

<!--
name: ⽤于指定Engine 的名称, 默认为Catalina
defaultHost:默认使⽤的虚拟主机名称, 当客户端请求指向的主机⽆效时, 将交由默认的虚拟主机处
理, 默认为localhost
-->
<Engine name="Catalina" defaultHost="localhost">
...
</Engine>
Host 标签

Host 标签⽤于配置⼀个虚拟主机

<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true">
...
</Host>
Context 标签

Context 标签⽤于配置⼀个Web应⽤,如下:

<Host name="www.abc.com" appBase="webapps" unpackWARs="true"
autoDeploy="true">
<!--
docBase:Web应⽤⽬录或者War包的部署路径。可以是绝对路径,也可以是相对于 Host appBase的
相对路径。
path:Web应⽤的Context 路径。如果我们Host名为localhost, 则该web应⽤访问的根路径为:
http://localhost:8080/web_demo。
-->
	<Context docBase="/Users/yingdian/web_demo" path="/web3"></Context>
	<Valve className="org.apache.catalina.valves.AccessLogValve"
		directory="logs"
		prefix="localhost_access_log" suffix=".txt"
		pattern="%h %l %u %t &quot;%r&quot; %s %b" />
</Host>

注:Context 不配置 path 默认 还是走Host

三、⼿写实现迷你版 Tomcat

实现简单功能 :
1)提供服务,接收请求(Socket通信)
2)请求信息封装成Request对象(Response对象)
3)客户端请求资源,资源分为静态资源(html)和动态资源(Servlet)
4)资源返回给客户端浏览器

源码地址 -> xxxxx

四、Tomcat 源码构建及核⼼流程源码剖析

1. 源码构建

1.1 下载源码

地址为 :https://tomcat.apache.org/download-80.cgi -> Source Code Distributions -> tar.gz

1.2 源码导⼊IDE之前准备⼯作

  • 解压 tar.gz 压缩包,得到⽬录 apache-tomcat-8.5.50-src
  • 进⼊ apache-tomcat-8.5.50-src ⽬录,创建⼀个pom.xml⽂件,⽂件内容如下
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0
http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>
    <groupId>org.apache.tomcat</groupId>
    <artifactId>apache-tomcat-8.5.50-src</artifactId>
    <name>Tomcat8.5</name>
    <version>8.5</version>
    <build>
        <!--指定源⽬录-->
        <finalName>Tomcat8.5</finalName>
        <sourceDirectory>java</sourceDirectory>
        <resources>
            <resource>
                <directory>java</directory>
            </resource>
        </resources>
        <plugins>
            <!--引⼊编译插件-->
            <plugin>
                <groupId>org.apache.maven.plugins</groupId>
                <artifactId>maven-compiler-plugin</artifactId>
                <version>3.1</version>
                <configuration>
                    <encoding>UTF-8</encoding>
                    <source>11</source>
                    <target>11</target>
                </configuration>
            </plugin>
        </plugins>
    </build>
    <!--tomcat 依赖的基础包-->
    <dependencies>
        <dependency>
            <groupId>org.easymock</groupId>
            <artifactId>easymock</artifactId>
            <version>3.4</version>
        </dependency>
        <dependency>
            <groupId>ant</groupId>
            <artifactId>ant</artifactId>
            <version>1.7.0</version>
        </dependency>
        <dependency>
            <groupId>wsdl4j</groupId>
            <artifactId>wsdl4j</artifactId>
            <version>1.6.2</version>
        </dependency>
        <dependency>
            <groupId>javax.xml</groupId>
            <artifactId>jaxrpc</artifactId>
            <version>1.1</version>
        </dependency>
        <dependency>
            <groupId>org.eclipse.jdt.core.compiler</groupId>
            <artifactId>ecj</artifactId>
            <version>4.5.1</version>
        </dependency>
        <dependency>
            <groupId>javax.xml.soap</groupId>
            <artifactId>javax.xml.soap-api</artifactId>
            <version>1.4.0</version>
        </dependency>
    </dependencies>
</project>
  • 在 apache-tomcat-8.5.50-src ⽬录中创建 source ⽂件夹
  • 将 conf、webapps ⽬录移动到刚刚创建的 source ⽂件夹中 (为了方便调试管理)

1.3 导⼊源码⼯程到IDE并进⾏配置

  • 将源码⼯程导⼊到 IDEA 中
  • 给 tomcat 的源码程序启动类 Bootstrap 配置 VM 参数,因为 tomcat 源码运⾏也需要加载配置⽂件等。
-Dcatalina.home=/Users/zjn/code/lagou_lesson/lagou_exercise/apache-tomcat-8.5.50-src/source
-Dcatalina.base=/Users/zjn/code/lagou_lesson/lagou_exercise/apache-tomcat-8.5.50-src/source
-Djava.util.logging.manager=org.apache.juli.ClassLoaderLogManager
-Djava.util.logging.config.file=/Users/zjn/code/lagou_lesson/lagou_exercise/apache-tomcat-8.5.50-src/source/conf/logging.properties
  • 执行BootStrap main 启动 tomcat,访问会遇到Jsp引擎Jasper没有被初始化,在 org.apache.catalina.startup.ContextConfig ->configureStart 加入 context.addServletContainerInitializer(new JasperInitializer(),null);
    描述代码
  • 重启Tomcat,至此源码调试环境搭建完成。

2. 核⼼流程源码剖析

2.1 生命周期接口Lifecycle

  • Lifecycle⽣命周期接⼝主要⽅法示意
    Lifecycle方法
  • Tomcat中的各容器组件都会涉及创建、销毁等,因此设计了⽣命周期接⼝Lifecycle进⾏统⼀规范,各容器组件实现Lifecycle接⼝
    继承Lifecycle 的类如下:
    继承Lifecycle的类

2.2 核⼼流程源码剖析

源码追踪部分我们关注两个流程:Tomcat启动流程和Tomcat请求处理流程

Tomcat启动流程 :
启动时序图
Tomcat请求处理流程 :

  • 请求处理流程分析
  • 请求处理流程
  • 请求处理流程示意图
    请求流程示意图
  • Mapper组件体系结构
    Mapper组件体系结构

五、Tomcat 类加载机制剖析

Java类(.java)—> 字节码⽂件(.class) —> 字节码⽂件需要被加载到jvm内存当中(这个过程就是⼀个类加载的过程)

类加载器(ClassLoader,说⽩了也是⼀个类,jvm启动的时候先把类加载器读取到内存当中去,其他的类(⽐如各种jar中的字节码⽂件,⾃⼰开发的代码编译之后的.class⽂件等等))要说 Tomcat 的类加载机制,⾸先需要来看看 Jvm 的类加载机制,因为 Tomcat 类加载机制是在 Jvm 类加载机制基础之上进⾏了⼀些变动。

1. JVM 的类加载机制

JVM 的类加载机制中有⼀个⾮常重要的⻆⾊叫做类加载器(ClassLoader),类加载器有⾃⼰的体系,Jvm内置了⼏种类加载器,包括:引导类加载器、扩展类加载器、系统类加载器,他们之间形成⽗⼦关系,通过 Parent 属性来定义这种关系,最终可以形成树形结构。

类加载结构图
⚠️rt.jar 里为java核⼼库 java.*

另外:⽤户可以⾃定义类加载器(Java编写,⽤户⾃定义的类加载器,可加载指定路径的 class ⽂件)
  当 JVM 运⾏过程中,⽤户⾃定义了类加载器去加载某些类时,会按照下⾯的步骤(⽗类委托机制)
  1) ⽤户⾃⼰的类加载器,把加载请求传给⽗加载器,⽗加载器再传给其⽗加载器,⼀直到加载器树的顶层
  2 )最顶层的类加载器⾸先针对其特定的位置加载,如果加载不到就转交给⼦类
  3 )如果⼀直到底层的类加载都没有加载到,那么就会抛出异常 ClassNotFoundException
  因此,按照这个过程可以想到,如果同样在 classpath 指定的⽬录中和⾃⼰⼯作⽬录中存放相同的class,会优先加载 classpath ⽬录中的⽂件。

2. 双亲委派机制

2.1 什么是双亲委派机制

当某个类加载器需要加载某个.class⽂件时,它⾸先把这个任务委托给他的上级类加载器,递归这个操作,如果上级的类加载器没有加载,⾃⼰才会去加载这个类。

2.2 双亲委派机制的作⽤

  • 防⽌重复加载同⼀个.class。通过委托去向上⾯问⼀问,加载过了,就不⽤再加载⼀遍。保证数据安全。
  • 保证核⼼.class不能被篡改。通过委托⽅式,不会去篡改核⼼.class,即使篡改也不会去加载,即使加载也不会是同⼀个.class对象了。不同的加载器加载同⼀个.class也不是同⼀个.class对象。这样保证了class执⾏安全(如果⼦类加载器先加载,那么我们可以写⼀些与java.lang包中基础类同名的类, 然后再定义⼀个⼦类加载器,这样整个应⽤使⽤的基础类就都变成我们⾃⼰定义的类了。)
    ⚠️ Object类 -----> ⾃定义类加载器(会出现问题的,那么真正的Object类就可能被篡改了)

3. Tomcat 的类加载机制

Tomcat 的类加载机制相对于 Jvm 的类加载机制做了⼀些改变。
没有严格的遵从双亲委派机制,也可以说打破了双亲委派机制
⽐如:有⼀个tomcat,webapps下部署了两个应⽤
app1/lib/a-1.0.jar com.lagou.edu.Abc
app2/lib/a-2.0.jar com.lagou.edu.Abc
不同版本中Abc类的内容是不同的,代码是不⼀样的。
Tomcat类加载机制

  • 引导类加载器 和 扩展类加载器 的作⽤不变
  • 系统类加载器正常情况下加载的是 CLASSPATH 下的类,但是 Tomcat 的启动脚本并未使⽤该变量,⽽是加载tomcat启动的类,⽐如bootstrap.jar,通常在catalina.bat或者catalina.sh中指定。位于CATALINA_HOME/bin下。也就是说先不会加载系统类加载器
  • Common 通⽤类加载器加载Tomcat使⽤以及应⽤通⽤的⼀些类,位于CATALINA_HOME/lib下,⽐如servlet-api.jar。
  • Catalina ClassLoader ⽤于加载服务器内部可⻅类,这些类应⽤程序不能访问。
  • Shared ClassLoader ⽤于加载应⽤程序共享类,这些类服务器不会依赖。
  • Webapp ClassLoader,每个应⽤程序都会有⼀个独⼀⽆⼆的Webapp ClassLoader,他⽤来加载本应⽤程序 /WEB-INF/classes 和 /WEB-INF/lib 下的类。

所以tomcat 8.5 默认改变了严格的双亲委派机制,把WebappClassLoader提到前面了。整体加载流程如下:

  • ⾸先从 Bootstrap Classloader加载指定的类
  • 如果未加载到,则从 /WEB-INF/classes加载
  • 如果未加载到,则从 /WEB-INF/lib/*.jar 加载
  • 如果未加载到,则依次从 System、Common、Shared 加载(在这最后⼀步,遵从双亲委派机制

六、Tomcat 对 Https 的⽀持及 Tomcat 性能优化策略

1. Tomcat 对 HTTPS 的⽀持

1.1 Https 介绍

Https是⽤来加强数据传输安全的

HTTPS和HTTP的主要区别 :

  1. HTTPS协议使⽤时需要到电⼦商务认证授权机构(CA)申请SSL证书
  2. HTTP默认使⽤8080端⼝,HTTPS默认使⽤8443端⼝
  3. HTTPS则是具有SSL加密的安全性传输协议,对数据的传输进⾏加密,效果上相当于HTTP的升级
  4. HTTP的连接是⽆状态的,不安全的;HTTPS协议是由SSL+HTTP协议构建的可进⾏加密传输、身
    份认证的⽹络协议,⽐HTTP协议安全

1.2 HTTPS⼯作原理

Https工作原理
总共是4次建立握手链接。

  1. 浏览器将自己支持的加密规则发送网站
  2. 网站选出加密算法,将身份、证书发回浏览器(证书包括地址、加密公钥、证书颁发机构)
  3. 使用公钥加密生成随机密码➕ 握手信息发给网站
  4. 网站收到请求使用私钥解出密码,使用密码解密握手信息,使用密码再加密一段握手信息,发送浏览器
  5. 浏览器解密并计算握手信息的Hash,如果一致,握手结束
  6. 之后的所有通信由之前浏览器生成的随机密码并利用对称加密算法进行加密

1.3 Tomcat 对 HTTPS 的⽀持

  1. 使⽤ JDK 中的 keytool ⼯具⽣成免费的秘钥库⽂件(证书)。
keytool -genkey -alias zjn -keyalg RSA -keystore zjn.keystore
  1. 配置conf/server.xml
<Connector port="8443" protocol="org.apache.coyote.http11.Http11NioProtocol"
maxThreads="150" schema="https" secure="true" SSLEnabled="true">
	<SSLHostConfig>
		<Certificate
			certificateKeystoreFile="/Users/zjn/code/lagou_lesson/lagou_exercise/apache-tomcat-8.5.50-src/source/conf/zjn.keystore" certificateKeystorePassword="123321" type="RSA"
			/>
	</SSLHostConfig>
</Connector>
  1. 使⽤https协议访问8443端⼝(https://localhost:8443)

2. Tomcat 性能优化策略

系统性能的衡量指标,主要是响应时间和吞吐量 :

1)响应时间:执⾏某个操作的耗时。
2) 吞吐量:系统在给定时间内能够⽀持的事务数量,单位为TPS(Transactions PerSecond的缩写,也
就是事务数/秒,⼀个事务是指⼀个客户机向服务器发送请求然后服务器做出反应的过程。

Tomcat优化从两个⽅⾯进⾏ :

1)JVM虚拟机优化(优化内存模型)
2)Tomcat⾃身配置的优化(⽐如是否使⽤了共享线程池?IO模型?)

学习优化的原则
提供给⼤家优化思路,没有说有明确的参数值⼤家直接去使⽤,必须根据⾃⼰的真实⽣产环境来进⾏调
整,调优是⼀个过程

2.1 虚拟机运⾏优化(参数调整)

Java 虚拟机的运⾏优化主要是内存分配和垃圾回收策略的优化:

  • 内存直接影响服务的运⾏效率和吞吐量
  • 垃圾回收机制会不同程度地导致程序运⾏中断(垃圾回收策略不同,垃圾回收次数和回收效率都是
    不同的)Stop The World~
2.1.1 Java 虚拟机内存相关参数
参数参数作用优化建议
-server启动Server,以服务端模式运⾏服服务端模式建议开启
-Xms最小堆内存建议与-Xmx设置相同
-Xmx最⼤堆内存建议设置为可⽤内存的80%
-XX:MetaspaceSize元空间初始值
-XX:MaxMetaspaceSize元空间最⼤内存默认无限
-XX:NewRatio年轻代和⽼年代⼤⼩⽐值,取值为整数,默认为2不需要修改
-XX:SurvivorRatioEden区与Survivor区⼤⼩的⽐值,取值为整数,默认为8不需要修改

JVM内存模型
JVM内存模型
参数调整示例
JAVA_OPTS="-server -Xms2048m -Xmx2048m -XX:MetaspaceSize=256m -XX:MaxMetaspaceSize=512m"

将上述参数 放入 /bin/catalina.sh 大长篇注释下方就可以了。
调整后查看可使⽤JDK提供的内存映射⼯具

jhsdb jmap --heap --pid 22498(进程号)
2.1.2 垃圾回收(GC)策略

垃圾回收性能指标 :

  • 吞吐量:⼯作时间(排除GC时间)占总时间的百分⽐, ⼯作时间并不仅是程序运⾏的时间,还包
    含内存分配时间。
  • 暂停时间:由垃圾回收导致的应⽤程序停⽌响应次数/时间。

垃圾收集器 :

  • 串⾏收集器(Serial Collector)
    单线程执⾏所有的垃圾回收⼯作, 适⽤于单核CPU服务器
    ⼯作进程-----|(单线程)垃圾回收线程进⾏垃圾收集|—⼯作进程继续

  • 并⾏收集器(Parallel Collector)
    ⼯作进程-----|(多线程)垃圾回收线程进⾏垃圾收集|—⼯作进程继续
    ⼜称为吞吐量收集器(关注吞吐量), 以并⾏的⽅式执⾏年轻代的垃圾回收, 该⽅式可以显著降
    低垃圾回收的开销(指多条垃圾收集线程并⾏⼯作,但此时⽤户线程仍然处于等待状态)。适⽤于多
    处理器或多线程硬件上运⾏的数据量较⼤的应⽤

  • 并发收集器(Concurrent Collector)
    以并发的⽅式执⾏⼤部分垃圾回收⼯作,以缩短垃圾回收的暂停时间。适⽤于那些响应时间优先于
    吞吐量的应⽤, 因为该收集器虽然最⼩化了暂停时间(指⽤户线程与垃圾收集线程同时执⾏,但不⼀
    定是并⾏的,可能会交替进⾏), 但是会降低应⽤程序的性能

  • CMS收集器(Concurrent Mark Sweep Collector)
    并发标记清除收集器, 适⽤于那些更愿意缩短垃圾回收暂停时间并且负担的起与垃圾回收共享处
    理器资源的应⽤

  • G1收集器(Garbage-First Garbage Collector)
    适⽤于⼤容量内存的多核服务器, 可以在满⾜垃圾回收暂停时间⽬标的同时, 以最⼤可能性实现
    ⾼吞吐量(JDK1.7之后)

    参数描述
    -XX:+UseSerialGC启⽤串⾏收集器
    -XX:+UseParallelGC启⽤并⾏垃圾收集器,配置了该选项,那么 -XX:+UseParallelOldGC默认启⽤
    -XX:+UseParNewGC年轻代采⽤并⾏收集器,如果设置了 -XX:+UseConcMarkSweepGC选项,⾃动启⽤
    -XX:+ParallelGCThreads年轻代及⽼年代垃圾回收使⽤的线程数。默认值依赖于JVM使⽤的CPU个数
    -XX:+UseConcMarkSweepGC(CMS)对于⽼年代,启⽤CMS垃圾收集器。 当并⾏收集器⽆法满⾜应⽤的延迟需求是,推荐使⽤CMS或G1收集器。启⽤该选项后, -XX:+UseParNewGC⾃动启⽤。
    -XX:+UseSerialGC启⽤G1收集器。 G1是服务器类型的收集器, ⽤于多核、⼤内存的机器。它在保持⾼吞吐量的情况下,⾼概率满⾜GC暂停时间的⽬标。

    将上述参数 放入 /bin/catalina.sh 大长篇注释下方就可以了。

    JAVA_OPTS="-XX:+UseG1GC"
    

    接下来使用 jdk 自带的 jconsole 监控可查看启用的垃圾回收器,如下图:
    G1

2.2 Tomcat 配置调优

Tomcat⾃身相关的调优

  • 使用并调整tomcat线程池 conf/server.xml
    server.xml配置调优

  • 调整tomcat的连接器,同样在 conf/server.xml

    参数说明
    maxConnections最⼤连接数,当到达该值后,服务器接收但不会处理更多的请求, 额外的请求将会阻塞直到连接数低于maxConnections 。可通过ulimit -a 查看服务器限制。对于CPU要求更⾼(计算密集型)时,建议不要配置过⼤ ; 对于CPU要求不是特别⾼时,建议配置在2000左右(受服务器性能影响)。 当然这个需要服务器硬件的⽀持
    maxThreads最⼤线程数,需要根据服务器的硬件情况,进⾏⼀个合理的设置
    acceptCount最⼤排队等待数,当服务器接收的请求数量到达maxConnections ,此时Tomcat会将后⾯的请求,存放在任务队列中进⾏排序, acceptCount指的就是任务队列中排队等待的请求数 。 ⼀台Tomcat的最⼤的请求处理数量,是maxConnections+acceptCount

    ⚠️ 基础小知识:imit -n 查看文件描述符,每个进程开启一个soeket连接,都会占用一个文件描述符。所以 可打开的最大文件数就是最大连接数。在Linux系统中一切皆可以看成是文件。因为建立链接也是要读写

  • 禁⽤ AJP 连接器

    <!--<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" /> -->
    

    ⚠️AJPV13协议是面向包的。WEB服务器和 servlet容器通过TCP链接来交互;为节省SOCKET创建的昂贵代价,WEB服务器会尝试维护一个永久TCP链接到servlet容器,并且在多个请求和响应周期过程会重用链接,所以用不到AJP。

我们一般是使用Nginx+tomcat的架构,所以用不着AJP协议

  • 调整 IO 模式
    修改如下内容:
    <Connector port="8080" protocol="HTTP/1.1"
                        connectionTimeout="20000"
                        redirectPort="8443" />
    
    修改protocol的值为org.apache.coyote.http11.Http11NioProtocol
    <Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"
                        connectionTimeout="20000"
                        redirectPort="8443" />
    
    Tomcat8之前的版本默认使⽤BIO(阻塞式IO),对于每⼀个请求都要创建⼀个线程来处理,不适合⾼并发;Tomcat8以后的版本默认使⽤NIO模式(⾮阻塞式IO)
    当Tomcat并发性能有较⾼要求或者出现瓶颈时,我们可以尝试使⽤APR模式,APR(Apache Portable Runtime)是从操作系统级别解决异步IO问题,使⽤时需要在操作系统上安装APR和Native(因为APR原理是使⽤使⽤JNI技术调⽤操作系统底层的IO接⼝)
  • 动静分离
    可以使⽤Nginx+Tomcat相结合的部署⽅案,Nginx负责静态资源访问,Tomcat负责Jsp等动态资源访问处理(因为Tomcat不擅⻓处理静态资源)。

《拉勾教育》Tomcat 笔记整理

已标记关键词 清除标记
相关推荐
©️2020 CSDN 皮肤主题: 数字20 设计师:CSDN官方博客 返回首页