第一部分 Tomcat 系统架构与原理剖析
B/S(浏览器/服务器模式) 浏览器是客户端(发送http请求) ———> 服务器端
第 1 节 浏览器访问服务器的流程
http请求的处理过程
注意:浏览器访问服务器使用的是Http协议,Http是应用层协议,用于定义数据通信的格式,具体的数据传输使用的是TCP/IP协议。
请求过程说明:
(1)用户在浏览器输入url地址然后出发访问或者是搜素框输入关键词进行搜索。
(2)浏览器向服务器发起TCP连接请求(中间进行三次握手)。
(3)服务器接收请求并建立连接。
(4)浏览器生成HTTP格式的数据包(因为HTTP请求只是定义了数据的组织格式(通信格式),是一个应用层协议,数据传输依靠的是TCP/IP协议)
(5)浏览器封装完HTTP格式数据包后,向服务器发送请求数据包(TCP协议)。
(6)服务器接收请求,并解析HTTP格式的数据包。(注意,TCP也分有请求头和请求数据,其中HTTP请求头和请求体是放在TCP的请求数据中的)
(7)服务器执行请求。
(8)服务器生成HTTP格式的数据包。
(9)服务器像浏览器发送响应数据(TCP协议)。
(10)浏览器解析HTTP格式的数据包,解析成静态数据(html/js/图片)呈现给用户。
第 2 节 Tomcat 系统总体架构
2.1 Tomcat 请求处理大致过程
Tomcat是⼀个Http服务器(能够接收并且处理http请求,所以tomcat是⼀个http服务器)
我们使用浏览器向某⼀个网站发起请求,发出的是Http请求,那么在远程,Http服务器接收到这个请求
之后,会调用具体的程序(Java类)进行处理,往往不同的请求由不同的Java类完成处理。
首先看一张Tomcat作为http服务器去处理http请求图:
从这张图中我们可以分析出,如果 Tomcat 作为http 服务器直接去调用业务处理类完成业务处理的话存在一定的问题:Tomcat 和业务处理类耦合在一起了。那么Tomcat 具体是如何处理请求的呢?
从图中我们可以看出 Tomcat 有两个重要身份
- 1)http服务器:负责接收请求,和客户端交互
- 2)Tomcat是⼀个Servlet容器:负责加载和调用业务类进行处理请求。
HTTP 服务器接收到请求之后把请求交给 Servlet容器来处理,Servlet 容器通过 Servlet 接口调用业务类。Servlet 接口和 Servlet 容器这⼀整套内容叫作 Servlet 规范。
注意:Tomcat 既按照 Servlet 规范的要求去实现了 Servlet 容器,同时它也具有 HTTP 服务器的功能。
2.2 Tomcat Servlet容器处理流程
当用户请求某个URL资源时
(1)HTTP服务器会把请求信息使用ServletRequest对象封装起来
(2)进一步去调用Servlet容器中某个具体的Servlet
(3)在(2)中,Servlet容器拿到请求后,根据URL和Servlet的映射关系,找到相应的Servlet
(4)如果Servlet还没有被加载,就用反射机制创建这个Servlet,并调用Servlet的init方法来完成初始化
(5)接着调用这个具体Servlet的service方法来处理请求,请求处理结果使用ServletResponse对象封装
(6)把ServletResponse对象返回给HTTP服务器,HTTP服务器会把响应发送给客户端
2.3 Tomcat 系统总体架构
通过上面的讲解,我们发现tomcat有两个非常重要的功能需要完成。
(1)和客户端浏览器进行交互,进行Socket通信,将字节流和Request/Response等对象进行转换
(2)Servlet容器处理业务逻辑
Tomcat 设计了两个核心组件连接器(Connector) 和 容器(Container) 来完成 Tomcat 的两大核心功能。
- 连接器,负责对外交流: 处理Socket连接,负责网络字节流与Request和Response对象的转化;
- 容器,负责内部处理:加载和管理Servlet,以及具体处理Request请求;
第 3 节 Tomcat 连接器组件 Coyote
3.1 Coyote 简介
Coyote 是Tomcat 中连接器的组件名称 , 是对外的接口。客户端通过Coyote与服务器建立连接、发送请求并接受响应 。
(1)Coyote 封装了底层的网络通信(Socket 请求及响应处理)
(2)Coyote 使Catalina 容器(容器组件)与具体的请求协议及IO操作方式完全解耦
(3)Coyote 将Socket 输入转换封装为 Request 对象,进⼀步封装后交由Catalina 容器进行处理,处理请求完成后,Catalina 通过Coyote 提供的Response 对象将结果写入输出流
(4)Coyote 负责的是具体协议(应用层)和 IO(传输层)相关内容
Tomcat Coyote 支持的 IO 模型与协议
Tomcat支持多种应用层协议和I/O模型,如下:
在 8.0 之前 ,Tomcat 默认采用的 I/O 方式为 BIO,之后改为 NIO。 无论 NIO、NIO2 还是 APR, 在性能方面均优于以往的BIO。 如果采用APR, 甚至可以达到 Apache HTTP Server 的影响性能。
3.2 Coyote 的内部组件及流程
Coyote 组件及作用
第 4 节 Tomcat Servlet 容器 Catalina
4.1 Tomcat 模块分层结构图及Catalina位置
Tomcat 是⼀个由一系列可配置(conf/server.xml)的组件构成的Web容器,而 Catalina 是 Tomcat 的 Servlet容器。
从另一个角度来说,Tomcat 本质上就是⼀款 Servlet 容器, 因为 Catalina 才是 Tomcat 的核心,其他模块都是为Catalina 提供支撑的。比如:通过 Coyote 模块提供链接通信,Jasper 模块提供 JSP 引擎,Naming 提供JNDI 服务,Juli 提供日志服务。
4.2 Servlet 容器 Catalina 的结构
Tomcat(我们往往有⼀个认识,Tomcat就是⼀个Catalina的实例,因为Catalina是Tomcat的核心)
Tomcat/Catalina实例
其实,可以认为整个Tomcat就是⼀个Catalina实例,Tomcat 启动的时候会初始化这个实例,Catalina实例通过加载server.xml完成其他实例的创建,创建并管理⼀个Server,Server创建并管理多个服务,每个服务又可以有多个Connector和⼀个Container。
⼀个Catalina实例(容器)
⼀个 Server实例(容器)
多个Service实例(容器)
每⼀个Service实例下可以有多个Connector实例和⼀个Container实例
- Catalina
负责解析Tomcat的配置文件(server.xml),以此来创建服务器Server组件并进行管理 - Server
服务器表示整个Catalina Servlet容器以及其它组件,负责组装并启动 Servlet 引擎,Tomcat连接器。Server通过实现Lifecycle接口,提供了⼀种优雅的启动和关闭整个系统的方式。 - Service
服务是Server内部的组件,⼀个Server包含多个Service。它将若干个Connector组件绑定到⼀个 Container - Container
容器,负责处理用户的 Servlet 请求,并返回对象给 web 用户的模块
4.3 Container 组件的具体结构
Container组件下有几种具体的组件,分别是Engine、Host、Context和Wrapper。这4种组件(容器)是父子关系。Tomcat通过⼀种分层的架构,使得Servlet容器具有很好的灵活性。
- Engine
表示整个Catalina的Servlet引擎,用来管理多个虚拟站点,⼀个Service最多只能有⼀个Engine,但是⼀个引擎可包含多个Host - Host
代表⼀个虚拟主机,或者说⼀个站点,可以给Tomcat配置多个虚拟主机地址,而⼀个虚拟主机下可包含多个Context - Context
表示⼀个Web应用程序, ⼀个Web应勇可包含多个Wrapper - Wrapper
表示⼀个Servlet,Wrapper 作为容器中的最底层,不能包含子容器
上述组件的配置其实就体现在conf/server.xml中。
第二部分 Tomcat 服务器核心配置详解
问题⼀:去哪儿配置?
核心配置在 tomcat 目录下 conf/server.xml 文件
问题⼆:怎么配置?
注意:
- Tomcat 作为服务器的配置,主要是 server.xml 文件的配置;
- server.xml中包含了 Servlet容器的相关配置,即 Catalina 的配置;
- xml文件的讲解主要是标签的使用
2.1 主要标签结构
<!--
Server 根元素,创建⼀个Server实例,⼦标签有 Listener、GlobalNamingResources、Service
-->
<Server>
<!--定义监听器-->
<Listener/>
<!--定义服务器的全局JNDI资源 -->
<GlobalNamingResources/>
<!--
定义⼀个Service服务,⼀个Server标签可以有多个Service服务实例
-->
<Service/>
</Server>
2.2 Server 标签
<!--
port:关闭服务器的监听端⼝
shutdown:关闭服务器的指令字符串
-->
<Server port="8005" shutdown="SHUTDOWN">
<!-- 以⽇志形式输出服务器 、操作系统、JVM的版本信息 -->
<Listener className="org.apache.catalina.startup.VersionLoggerListener" />
<!-- Security listener. Documentation at /docs/config/listeners.html
<Listener className="org.apache.catalina.security.SecurityListener" />
-->
<!--APR library loader. Documentation at /docs/apr.html -->
<!-- 加载(服务器启动) 和 销毁 (服务器停⽌) APR。 如果找不到APR库, 则会输出⽇志, 并不影响 Tomcat启动 -->
<Listener className="org.apache.catalina.core.AprLifecycleListener" SSLEngine="on" />
<!-- Prevent memory leaks due to use of particular java/javax APIs-->
<!-- 避免JRE内存泄漏问题 -->
<Listener className="org.apache.catalina.core.JreMemoryLeakPreventionListener" />
<!-- 加载(服务器启动) 和 销毁(服务器停⽌) 全局命名服务 -->
<Listener className="org.apache.catalina.mbeans.GlobalResourcesLifecycleListener" />
<!-- 在Context停⽌时重建 Executor 池中的线程, 以避免ThreadLocal 相关的内存泄漏 -->
<Listener className="org.apache.catalina.core.ThreadLocalLeakPreventionListener" />
<!-- Global JNDI resources
Documentation at /docs/jndi-resources-howto.html
GlobalNamingResources 中定义了全局命名服务
-->
<GlobalNamingResources>
<!-- Editable user database that can also be used by
UserDatabaseRealm to authenticate users
-->
<Resource name="UserDatabase" auth="Container"
type="org.apache.catalina.UserDatabase"
description="User database that can be updated and saved"
factory="org.apache.catalina.users.MemoryUserDatabaseFactory"
pathname="conf/tomcat-users.xml" />
</GlobalNamingResources>
<!-- A "Service" is a collection of one or more "Connectors" that share
a single "Container" Note: A "Service" is not itself a "Container",
so you may not define subcomponents such as "Valves" at this level.
Documentation at /docs/config/service.html
-->
<Service name="Catalina">
...
</Service>
</Server>
2.3 Service 标签
<!--
该标签⽤于创建 Service 实例,默认使⽤ org.apache.catalina.core.StandardService。
默认情况下,Tomcat 仅指定了Service 的名称, 值为 "Catalina"。
Service ⼦标签为 : Listener、Executor、Connector、Engine,
其中:
Listener ⽤于为Service添加⽣命周期监听器,
Executor ⽤于配置Service 共享线程池,
Connector ⽤于配置Service 包含的链接器,
Engine ⽤于配置Service中链接器对应的Servlet 容器引擎
-->
<Service name="Catalina">
...
</Service>
2.4 Executor 标签
<!--
默认情况下,Service 并未添加共享线程池配置。 如果我们想添加⼀个线程池, 可以在<Service> 下添加如下配置:
name:线程池名称,⽤于 Connector中指定
namePrefix:所创建的每个线程的名称前缀,⼀个单独的线程名称为
namePrefix+threadNumber
maxThreads:池中最⼤线程数
minSpareThreads:活跃线程数,也就是核⼼池线程数,这些线程不会被销毁,会⼀直存在
maxIdleTime:线程空闲时间,超过该时间后,空闲线程会被销毁,默认值为6000(1分钟),单位毫秒
maxQueueSize:在被执⾏前最⼤线程排队数⽬,默认为Int的最⼤值,也就是⼴义的⽆限。除⾮特殊情况,这个值 不需要更改,否则会有请求不会被处理的情况发⽣
prestartminSpareThreads:启动线程池时是否启动 minSpareThreads部分线程。默认值为false,即不启动
threadPriority:线程池中线程优先级,默认值为5,值从1到10
className:线程池实现类,未指定情况下,默认实现类为org.apache.catalina.core.StandardThreadExecutor。如果想使⽤⾃定义线程池⾸先需要实现org.apache.catalina.Executor接⼝
-->
<Executor name="commonThreadPool"
namePrefix="thread-exec-"
maxThreads="200"
minSpareThreads="100"
maxIdleTime="60000"
maxQueueSize="Integer.MAX_VALUE"
prestartminSpareThreads="false"
threadPriority="5"
className="org.apache.catalina.core.StandardThreadExecutor"/>
2.5 Connector 标签
Connector 标签⽤于创建链接器实例,默认情况下,server.xml 配置了两个链接器,⼀个支持HTTP协议,⼀个支持AJP协议大多数情况下,我们并不需要新增链接器配置,只是根据需要对已有链接器进行优化。
<!--
port:端⼝号,Connector ⽤于创建服务端Socket 并进⾏监听, 以等待客户端请求链接。如果该属性设置为0, Tomcat将会随机选择⼀个可⽤的端⼝号给当前Connector 使⽤
protocol:当前Connector ⽀持的访问协议。 默认为 HTTP/1.1 , 并采⽤⾃动切换机制选择⼀个基于 JAVA NIO 的链接器或者基于本地APR的链接器(根据本地是否含有Tomcat的本地库判定)
connectionTimeOut: Connector 接收链接后的等待超时时间, 单位为 毫秒。 -1 表示不超时。
redirectPort:当前Connector 不⽀持SSL请求, 接收到了⼀个请求, 并且也符合security-constraint 约束,需要SSL传输,Catalina⾃动将请求重定向到指定的端⼝。
executor:指定共享线程池的名称, 也可以通过maxThreads、minSpareThreads 等属性配置内部线程池。
URIEncoding:⽤于指定编码URI的字符编码,Tomcat8.x版本默认的编码为 UTF-8 , Tomcat7.x版本默认为ISO8859-1
-->
<!--org.apache.coyote.http11.Http11NioProtocol , ⾮阻塞式 Java NIO 链接器-->
<Connector port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" />
<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />
可以使用共享线程池
<Connector port="8080"
protocol="HTTP/1.1"
executor="commonThreadPool"
maxThreads="1000"
minSpareThreads="100"
acceptCount="1000"
maxConnections="1000"
connectionTimeout="20000"
compression="on"
compressionMinSize="2048"
disableUploadTimeout="true"
redirectPort="8443"
URIEncoding="UTF-8" />
2.6 Engine 标签
Engine 表示 Servlet 引擎
<!--
name: ⽤于指定Engine 的名称, 默认为Catalina
defaultHost:默认使⽤的虚拟主机名称, 当客户端请求指向的主机⽆效时, 将交由默认的虚拟主机处理, 默认为localhost
-->
<Engine name="Catalina" defaultHost="localhost">
...
</Engine>
2.7 Host 标签
Host 标签用于配置⼀个虚拟主机
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true">
...
</Host>
2.8 Context 标签
Context 标签用于配置⼀个Web应勇,如下:
<Host name="www.abc.com" appBase="webapps" unpackWARs="true" autoDeploy="true">
<!--
docBase:Web应⽤⽬录或者War包的部署路径。可以是绝对路径,也可以是相对于 Host appBase的相对路径。
path:Web应⽤的Context 路径。如果我们Host名为localhost, 则该web应⽤访问的根路径为:http://localhost:8080/web_demo。
-->
<Context docBase="/Users/cyd/web_demo" path="/web3"></Context>
<Valve className="org.apache.catalina.valves.AccessLogValve"
directory="logs"
prefix="localhost_access_log" suffix=".txt"
pattern="%h %l %u %t "%r" %s %b" />
</Host>
2.9 默认的conf/server.xml配置文件内容
<?xml version="1.0" encoding="UTF-8"?>
<Server port="8005" shutdown="SHUTDOWN">
<Listener className="org.apache.catalina.startup.VersionLoggerListener" />
<Listener className="org.apache.catalina.core.AprLifecycleListener" SSLEngine="on" />
<Listener className="org.apache.catalina.core.JreMemoryLeakPreventionListener" />
<Listener className="org.apache.catalina.mbeans.GlobalResourcesLifecycleListener" />
<Listener className="org.apache.catalina.core.ThreadLocalLeakPreventionListener" />
<GlobalNamingResources>
<Resource name="UserDatabase" auth="Container"
type="org.apache.catalina.UserDatabase"
description="User database that can be updated and saved"
factory="org.apache.catalina.users.MemoryUserDatabaseFactory"
pathname="conf/tomcat-users.xml" />
</GlobalNamingResources>
<Service name="Catalina">
<Connector port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" />
<!-- Define an AJP 1.3 Connector on port 8009 -->
<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />
<Engine name="Catalina" defaultHost="localhost">
<Realm className="org.apache.catalina.realm.LockOutRealm">
<Realm className="org.apache.catalina.realm.UserDatabaseRealm" resourceName="UserDatabase"/>
</Realm>
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true">
<Valve className="org.apache.catalina.valves.AccessLogValve" directory="logs"
prefix="localhost_access_log" suffix=".txt"
pattern="%h %l %u %t "%r" %s %b" />
</Host>
</Engine>
</Service>
</Server>
- Server: Server容器就代表一个Tomcat实例(Catalina实例),其下可以有一个或者多个Service容器;
- Service: Service是提供具体对外服务的(默认只有一个),一个Service容器中又可以有多个Connector组件(监听不同端口请求,解析请求)和一个Servlet容器(做具体的业务逻辑处理);
- Engine和Host: Engine组件(引擎)是Servlet容器Catalina的核心,它支持在其下定义多个虚拟主机(Host),虚拟主机允许Tomcat引擎在将配置在一台机器上的多个域名,比如www.baidu.com、www.bat.com分割开来互不干扰;
- Context: 每个虚拟主机又可以支持多个web应用部署在它下边,这就是我们所熟知的上下文对象Context,上下文是使用由Servlet规范中指定的Web应用程序格式表示,不论是压缩过的war包形式的文件还是未压缩的目录形式;
- Wrapper: 在上下文中又可以部署多个servlet,并且每个servlet都会被一个包装组件(Wrapper)所包含(一个wrapper对应一个servlet)。