Tomcat 网络通信模型剖析(全)

1.  Tomcat 支持四种线程模型介绍
   

2.  Tomcat BIO、NIO实现过程源码解析
   

3.  Tomcat connector 并发参数解读
   

4.  Tomcat 类加载机制源码解析
   

一、Tomcat 支持四种线程模型介绍

什么是IO?

IO是指为数据传输所提供的输入输出流，其输入输出对象可以是：文件、网络服务、内存等。

什么是IO模型？

提问：

假设应用在从硬盘中读取一个大文件过程中，此时CPU会与硬盘一样出于高负荷状态么？

演示：

l 演示观察大文件的读写过程当中CPU 有没有发生大波动。

演示结果：CPU 没有太高的增涨

通常情况下IO操作是比较耗时的，所以为了高效的使用硬件，应用程序可以用一个专门线程进行IO操作，而另外一个线程则利用CPU的空闲去做其它计算。这种为提高应用执行效率而采用的IO操作方法即为IO模型。

各IO 简单说明:

IO模型

描述

BIO

同步阻塞式IO，即Tomcat使用传统的java.io进行操作。该模式下每个请求都会创建一个线程，对性能开销大，不适合高并发场景。优点是稳定，适合连接数目小且固定架构。

NIO

同步非阻塞式IO，jdk1.4 之后实现的新IO。该模式基于多路复用选择器监测连接状态在同步通知线程处理，从而达到非阻塞的目的。比传统BIO能更好的支持并发性能。Tomcat 8.0之后默认采用该模式

APR

全称是 Apache Portable Runtime/Apache可移植运行库)，是Apache HTTP服务器的支持库。可以简单地理解为，Tomcat将以JNI的形式调用Apache HTTP服务器的核心动态链接库来处理文件读取或网络传输操作。使用需要编译安装APR 库

AIO

(asynchronous I/O)

异步非阻塞式IO，jdk1.7后之支持 。与nio不同在于不需要多路复用选择器，而是请求处理线程执行完程进行回调调知，已继续执行后续操作。Tomcat 8之后支持。

使用指定IO模型的配置方式:

配置 server.xml 文件当中的 修改即可。

默认配置 8.0 protocol=“HTTP/1.1” 8.0 之前是 BIO 8.0 之后是NIO

BIO

protocol=“org.apache.coyote.http11.Http11Protocol“

NIO

protocol=”org.apache.coyote.http11.Http11NioProtocol“

AIO

protocol=”org.apache.coyote.http11.Http11Nio2Protocol“

APR

protocol=”org.apache.coyote.http11.Http11AprProtocol“

二、Tomcat BIO、NIO实现过程源码解析

提问：

BIO 与NIO有什么区别？

分别演示在高并发场景下BIO与NIO的线程数的变化？

演示数据：

每秒提交数

BIO执行线程

NIO执行线程

预测

200

200线程

20线程

实验实际

200

55 wait个线程

23个线程

模拟生产环境

200

229个run线程

20个wait 线程

1、网络

2、程序执行业务用时

结论：

BIO 线程模型讲解

NIO 线程模型讲解

BIO 源码解读

线程组：

Accept 线程组 acceptorThreadCount=

exec 线程组 maxThread

JIoEndpoint

Acceptor extends Runnable

SocketProcessor extends Runnable

BIO

线程数量 会受到 客户端阻塞、网络延迟、业务处理慢===>线程数会更多

NIO

线程数量 会受到业务处理慢===>线程数会更多

三、Tomcat connector 并发参数解读

名称

描述

acceptCount

等待最大队列

address

绑定客户端特定地址，127.0.0.1

bufferSize

每个请求的缓冲区大小。

bufferSize * maxThreads

compression

是否启用文档压缩

compressableMimeTypes

text/html,text/xml,text/plain

connectionTimeout

客户发起链接 到 服务端接收为止，中间最大的等待时间

connectionUploadTimeout

upload 情况下连接超时时间

disableUploadTimeout

true 则使用connectionTimeout

enableLookups

禁用DNS查询 true

keepAliveTimeout

当长链接闲置 指定时间主动关闭 链接 ，前提是客户端请求头 带上这个 head"connection" " keep-alive"

maxKeepAliveRequests

最大的 长连接数

maxHttpHeaderSize

maxSpareThreads

BIO 模式下 最多线闲置线程数

maxThreads（执行线程）

最大执行线程数

minSpareThreads(初始线业务线程 10)

BIO 模式下 最小线闲置线程数

四、Tomcat 类加载机制源码解析

类加载的本质

是用来加载 Class 的。它负责将 Class 的字节码形式转换成内存形式的 Class 对象。字节码可以来自于磁盘文件 *.class，也可以是 jar 包里的 *.class，也可以来自远程服务器提供的字节流，字节码的本质就是一个字节数组 []byte，它有特定的复杂的内部格式。

JVM 运行实例中会存在多个 ClassLoader，不同的 ClassLoader 会从不同的地方加载字节码文件。它可以从不同的文件目录加载，也可以从不同的 jar 文件中加载，也可以从网络上不同的静态文件服务器来下载字节码再加载。

jvm里ClassLoader的层次结构

类加载器层次结构.png

BootstrapClassLoader（启动类加载器）

负责加载 JVM 运行时核心类,加载System.getProperty(“sun.boot.class.path”)所指定的路径或jar

ExtensionClassLoader

负责加载 JVM 扩展类，比如 swing 系列、内置的 js 引擎、xml 解析器 等等，这些库名通常以 javax 开头，它们的 jar 包位于 JAVAHOME/lib/rt.jar文件中.

加载System.getProperty(“java.ext.dirs”)所指定的路径或jar。在使用Java运行程序时，也可以指定其搜索路径，例如：java -Djava.ext.dirs=d:\projects\testproj\classes HelloWorld。

AppClassLoader

才是直接面向我们用户的加载器，它会加载 Classpath 环境变量里定义的路径中的 jar 包和目录。我们自己编写的代码以及使用的第三方 jar 包通常都是由它来加载的。

加载System.getProperty(“java.class.path”)所指定的路径或jar。在使用Java运行程序时，也可以加上-cp来覆盖原有的Classpath设置，例如： java -cp ./lavasoft/classes HelloWorld

Tomcat的 类加载顺序

在Tomcat中，默认的行为是先尝试在Bootstrap和Extension中进行类型加载，如果加载不到则在WebappClassLoader中进行加载，如果还是找不到则在Common中进行查找。

NoClassDefFoundError

NoClassDefFoundError是在开发JavaEE程序中常见的一种问题。该问题会随着你所使用的JavaEE中间件环境的复杂度以及应用本身的体量变得更加复杂，尤其是现在的JavaEE服务器具有大量的类加载器。

在JavaDoc中对NoClassDefFoundError的产生是由于JVM或者类加载器实例尝试加载类型的定义，但是该定义却没有找到，影响了执行路径。换句话说，在编译时这个类是能够被找到的，但是在执行时却没有找到。

这一刻IDE是没有出错提醒的，但是在运行时却出现了错误。

NoSuchMethodError

在另一个场景中，我们可能遇到了另一个错误，也就是NoSuchMethodError。

NoSuchMethodError代表这个类型确实存在，但是一个不正确的版本被加载了。

ClassCastException

ClassCastException，在一个类加载器的情况下，一般出现这种错误都会是在转型操作时，比如：A a = (A) method();，很容易判断出来method()方法返回的类型不是类型A，但是在 JavaEE 多个类加载器的环境下就会出现一些难以定位的情况。