Tomcat整体架构及其工作流程

这两天看了一些关于tomcat的东西，在此做一个小的总计。

Tomcat架构

Tomcat中最顶层的容器是Server，代表着整个服务器，从上图中可以看出，一个Server可以包含至少一个Service，用于具体提供服务。一个Tomcat中只有一个Server，一个Server可以包含多个Service，一个Service只有一个Container，但是可以有多个Connectors，这是因为一个服务可以有多个连接，如同时提供Http和Https链接，也可以提供向相同协议不同端口的连接,如上图。

Service主要包含两个部分：Connector和Container。从上图中可以看出 Tomcat 的心脏就是这两个组件，他们的作用如下：

• Connector用于处理连接相关的事情，并提供Socket与Request和Response相关的转化; 
• Connector最底层使用的是Socket来进行连接的，Request和Response是按照HTTP协议来封装的，所以Connector同时需要实现TCP/IP协议和HTTP协议

• Container用于封装和管理Servlet，以及具体处理Request请求；

Server标签设置的端口号为8005，shutdown=”SHUTDOWN” ，表示在8005端口监听“SHUTDOWN”命令，如果接收到了就会关闭Tomcat。上述的包含关系或者说是父子关系，都可以在tomcat的conf目录下的server.xml配置文件中看出：

Connector

• Endpoint用来处理底层Socket的网络连接，Processor用于将Endpoint接收到的Socket封装成Request，Adapter用于将Request交给Container进行具体的处理
• Endpoint由于是处理底层的Socket网络连接，因此Endpoint是用来实现TCP/IP协议的，而Processor用来实现HTTP协议的，Adapter将请求适配到Servlet容器进行具体的处理
• Connector在处理HTTP请求时，会使用不同的protocol。不同的Tomcat版本支持的protocol不同，其中最典型的protocol包括BIO、NIO和APR
• BIO、NIO：在accept队列中接收连接（当客户端向服务器发送请求时，如果客户端与OS完成三次握手建立了连接，则OS将该连接放入accept队列）；在连接中获取请求的数据，生成request；调用servlet容器处理请求；返回response。为了便于后面的说明，首先明确一下连接与请求的关系：连接是TCP层面的（传输层），对应socket；请求是HTTP层面的（应用层），必须依赖于TCP的连接实现；一个TCP连接中可能传输多个HTTP请求。
• BIO：Acceptor接收socket，然后从Worker线程池中找出空闲的线程处理socket，如果worker线程池没有空闲线程，则Acceptor将阻塞
• NIO(IO多路复用)：Acceptor接收socket后，不是直接使用Worker中的线程处理请求，而是先将请求发送给了Poller，而Poller是实现NIO的关键。Acceptor向Poller发送请求通过队列实现，使用了典型的生产者-消费者模式。在Poller中，维护了一个Selector对象；当Poller从队列中取出socket后，注册到该Selector中；然后通过遍历Selector，找出其中可读的socket，并使用Worker中的线程处理相应请求。但在“读取socket并交给Worker中的线程”的这个过程中，使用非阻塞的NIO实现，这是NIO模式与BIO模式的最主要区别
• acceptCount：accept队列的长度；当accept队列中连接的个数达到acceptCount时，队列满，进来的请求一律被拒绝。默认值是100。

• maxConnections：Tomcat在任意时刻接收和处理的最大连接数，当Tomcat接收的连接数达到maxConnections时，Acceptor线程不会读取accept队列中的连接；这时accept队列中的线程会一直阻塞着，直到Tomcat接收的连接数小于maxConnections

• maxThreads：请求处理线程的最大数量。默认值是200（Tomcat7和8都是的

Connector的优化：

1. 指定protocol -- BIO、NIO、NIO2，APR，如果没有指定protocol，则使用默认值HTTP/1.1，其含义如下：
2. 优化3个参数：acceptCount、maxConnections、maxThreads

   <Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol" acceptCount="2" maxConnections="10" maxThreads="2"
              connectionTimeout="20000"
              redirectPort="8443" />

    

3. 使用线程池Executor

   <Executor name="tomcatThreadPool" namePrefix ="catalina-exec-" maxThreads="150" minSpareThreads="4" />
   
   <Connector executor="tomcatThreadPool" port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" acceptCount="1000" />

    

• 在Tomcat7中，自动选取使用BIO或APR（如果找到APR需要的本地库，则使用APR，否则使用BIO）；
• 在Tomcat8中，自动选取使用NIO或APR（如果找到APR需要的本地库，则使用APR，否则使用NIO）。

Container

Container用于封装和管理Servlet，以及具体处理Request请求。Container处理请求是使用Pipeline-Valve管道来处理的，Pipeline-Valve是责任链模式

• Engine：引擎，用来管理多个站点，一个Service最多只能有一个Engine；
• Host：代表一个站点，也可以叫虚拟主机，通过配置Host就可以添加站点；
• Context：代表一个应用程序，对应着平时开发的一套程序，或者一个WEB-INF目录以及下面的web.xml文件；
• Wrapper：每一Wrapper封装着一个Servlet；

tomcat基本工作流程：

Tomcat Server处理一个HTTP请求的过程

1. 用户点击网页内容，请求被发送到本机端口8080，被在那里监听的Coyote HTTP/1.1 Connector获得。 
2. Connector把该请求交给它所在的Service的Engine来处理，并等待Engine的回应。 
3. Engine获得请求localhost/test/index.jsp，匹配所有的虚拟主机Host。 
4. Engine匹配到名为localhost的Host（即使匹配不到也把请求交给该Host处理，因为该Host被定义为该Engine的默认主机），名为localhost的Host获得请求/test/index.jsp，匹配它所拥有的所有的Context。Host匹配到路径为/test的Context（如果匹配不到就把该请求交给路径名为“ ”的Context去处理）。 
5. path=“/test”的Context获得请求/index.jsp，在它的mapping table中寻找出对应的Servlet。Context匹配到URL PATTERN为*.jsp的Servlet,对应于JspServlet类。 
6. 构造HttpServletRequest对象和HttpServletResponse对象，作为参数调用JspServlet的doGet（）或doPost（）.执行业务逻辑、数据存储等程序。 
7. Context把执行完之后的HttpServletResponse对象返回给Host。 
8. Host把HttpServletResponse对象返回给Engine。 
9. Engine把HttpServletResponse对象返回Connector。 
10. Connector把HttpServletResponse对象返回给客户Browser。

 

推荐三篇深度好文：Tomcat系统架构、详解tomcat配置文件server.xml、详解tomcat连接