Tomcat 8（十）HTTP/AJP Connector、Bio/Nio/Apr性能对比

最新推荐文章于 2022-08-02 10:43:54 发布
最新推荐文章于 2022-08-02 10:43:54 发布
阅读量795 收藏 2
点赞数 1
分类专栏： tomcat 8.0

Tomcat 8（七）解读Bootstrap介绍过，Connector初始化/启动的时候,将初始化/启动内部的ProtocolHandler。其实ProtocolHandler只是个接口

ProtocolHandler的UML图(以下这些类在org.apache.coyote包下)


创建Connector对象时，Connector的构造函数内会根据server.xml的Connector标签的配置创建ProtocolHandler(默为Http11NioProtocol)

[java]  view plain  copy
  在CODE上查看代码片 派生到我的代码片
  1. public Connector(String protocol) {  
  2.         setProtocol(protocol);  
  3.         // Instantiate protocol handler  
  4.         ProtocolHandler p = null;  
  5.         try {  
  6.             Class<?> clazz = Class.forName(protocolHandlerClassName);  
  7.             p = (ProtocolHandler) clazz.newInstance();  
  8.         } catch (Exception e) {  
  9.             log.error(sm.getString(  
  10.                     "coyoteConnector.protocolHandlerInstantiationFailed"), e);  
  11.         } finally {  
  12.             this.protocolHandler = p;  
  13.         }  
  14.    
  15.         if (!Globals.STRICT_SERVLET_COMPLIANCE) {  
  16.             URIEncoding = "UTF-8";  
  17.             URIEncodingLower = URIEncoding.toLowerCase(Locale.ENGLISH);  
  18.         }  
  19. }  

setProtocol(protocol)方法内容：

[java]  view plain  copy
  在CODE上查看代码片 派生到我的代码片
  1. public void setProtocol(String protocol) {  
  2.  //protocol对应server.xml的Connector标签的protocol属性  
  3.         if (AprLifecycleListener.isAprAvailable()) {  
  4.             if ("HTTP/1.1".equals(protocol)) {  
  5.                 setProtocolHandlerClassName  
  6.                     ("org.apache.coyote.http11.Http11AprProtocol");  
  7.             } else if ("AJP/1.3".equals(protocol)) {  
  8.                 setProtocolHandlerClassName  
  9.                     ("org.apache.coyote.ajp.AjpAprProtocol");  
  10.             } else if (protocol != null) {  
  11.                 setProtocolHandlerClassName(protocol);  
  12.             } else {  
  13.                 setProtocolHandlerClassName  
  14.                     ("org.apache.coyote.http11.Http11AprProtocol");  
  15.             }  
  16.         } else {  
  17.             if ("HTTP/1.1".equals(protocol)) {  
  18.                 setProtocolHandlerClassName  
  19.                     ("org.apache.coyote.http11.Http11NioProtocol");  
  20.             } else if ("AJP/1.3".equals(protocol)) {  
  21.                 setProtocolHandlerClassName  
  22.                     ("org.apache.coyote.ajp.AjpNioProtocol");  
  23.             } else if (protocol != null) {  
  24.                 setProtocolHandlerClassName(protocol);  
  25.             }  
  26.         }  
  27.    
  28.     }  

如果server.xml配置了AprLifecycleListener

[html]  view plain  copy
  在CODE上查看代码片 派生到我的代码片
  1. <Listener className="org.apache.catalina.core.AprLifecycleListener" SSLEngine="on" />  

AprLifecycleListener.isAprAvailable()为true

Connector支持两种协议：HTTP/1.1和AJP/1.3

HTTP比较熟悉，在此不做说明了。AJP主要用于Tomcat的负载均衡，即Web Server(如Apache) 可以通过AJP协议向Tomcat发请求

AJP(Apache JServ Protocol)是一种定向包协议, 用于将传入Web Server(如Apache)的request传递到处理具体业务的Application Server(如Tomcat）

AJP的优点：

1. AJP使用二进制格式来传输可读性文本，Web Server通过TCP连接Application Server，较HTTP性能更高

2. 为了减少生成socket的开销，Web Server和Application Server之间尝试保持持久性的TCP连接，对多个request/response循环重用一个连接

3. 一旦连接分配给一个特定的request，在该request完成之前不会再分配给其他request。因此，request在一个连接上是独占的，这使连接两端的编码变得简洁

4. 在连接上发送的基本请求信息是高度压缩的

AJP的缺点：

1. 某一时刻的连接数可能较多

2. HTTP Connector可以在Server.xml设置有效时间(connectionTimeout)，而AJP Connector是永久有效

AJP协议的设计：http://httpd.apache.org/docs/2.2/mod/mod_proxy_ajp.html


下面来测试下HTTP和AJP的性能

测试环境：win8.1 64位(4核、4G内存) + Tomcat8.0.3 64位 + jdk1.7.0_51 64位

压力测试工具：Apache ab

监控工具：Process Explorer、任务管理器

测试方法：在Tomcat\webapps\examples下创建index.jsp

[html]  view plain  copy
  在CODE上查看代码片 派生到我的代码片
  1. <%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>  
  2. <%@ page import="java.text.SimpleDateFormat"%>  
  3. <!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN">  
  4. <html>  
  5.   <head>  
  6.     <title>Test</title>  
  7.   </head>  
  8.     
  9.   <body>  
  10.         Server Info:  
  11.   
  12.     <%  
  13.       String dtm = new SimpleDateFormat("yyyy-MM-dd hh:mm:ss").format(new Date());  
  14.       System.out.println("["+request.getLocalAddr()+":"+ request.getLocalPort()+"]" + dtm);  
  15.       out.println("<br>["+request.getLocalAddr()+":" +request.getLocalPort()+"]" + dtm+"<br>");   
  16.     %>  
  17.       
  18.     Session Info:  
  19.     <%  
  20.         session.setAttribute("name","dennisit");  
  21.         System.out.println("[Session Info] Session ID:"+session.getId());  
  22.         out.println("<br>[Session Info] Session ID:" + session.getId()+"<br>");  
  23.     %>  
  24.   </body>  
  25. </html>  

index.jsp的内容比较简单，就是获取Server信息和Session信息。Tomcat 8默认配置下，配置了AprLifecycleListener，监听8080端口的Connector使用HTTP/1.1协议；监听8009端口的Connector使用AJP/1.3协议，这两个端口默认使用apr模式。使用ab向HTTP Connector/AJP Connector发送10000个请求(并发量设为1000)

测试HTTP Connector的命令：ab -n 10000 -c 1000 localhost:8080/examples/index.jsp

测试AJP Connector的命令：ab -n 10000 -c 1000 localhost:8009/examples/index.jsp

以下数据是三次测试的平均值(注：每次只测一个Connector，每次测试都会重启Tomcat)

名词解释：

时间－处理完所有请求所用的时间(单位：s)

CPU－Java.exe进程的CPU占用峰值

内存－java.exe进程的内存占用峰值(单位：MB)

流量－处理请求期间的宽带占用(单位：kb/s)

测试结果：


通过上表可以看出，AJP处理请求稍快一点，但使用AJP时，CPU和内存占用更少，宽带占用几乎为0(由于使用AJP时，发送的基本请求信息是高度压缩。当然，也跟这个请求简单有关系)

所以，AJP Connector的性能更优

每个ProtocolHandler内部都有一个Endpoint，ProtocolHandler初始化/启动的时候，将初始化/启动其内部的Endpoint

Tomcat有三种Endpoint：JIoEndpoint、NioEndpoint、AprEndpoint

ProtocolHandler与Endpoint的对应关系

Http11Protocol/AjpProtocol使用JIoEndpoint

Http11NioProtocol/AjpNioProtocol使用NioEndpoint

Http11AprProtocol/AjpAprProtocol使用AprEndpoint

Server.xml的Connector标签配置的部分属性(如port)，在Endpoint中才真正被使用。因此只有Endpoint启动了，Tomcat才开始监听指定端口

学习这三种Endpoint之前，需要了解下java io和java nio，可参考这两篇文章：

http://www.cnblogs.com/flyoung2008/p/3251826.html

http://tutorials.jenkov.com/java-nio/index.html

JIoEndpoint：使用java io(也称为bio)技术，即一个请求对应一个线程。缺点：并发量高时，线程数较多，占资源

NioEndpoint：使用java nio技术，可以通过少量的线程处理大量的请求

AprEndpoint：Apr即Apache Portable Runtime，从操作系统层面解决io阻塞问题。使用Apr时将用到Tomcat\bin\tcnative-1.dll (使用Apr时，应用了jni技术)。

Tomcat 8默认配置下，HTTP Connector和AJP Connector均使用Apr。测试AprEndpoint，使用Tomcat 8的默认配置即可。测试JIoEndpoint、NioEndpoint需要将server.xml中的AprLifecycleListener注释掉

[html]  view plain  copy
  在CODE上查看代码片 派生到我的代码片
  1. <!-- 
  2. <Listener className="org.apache.catalina.core.AprLifecycleListener" SSLEngine="on" /> 
  3. -->  

并修改Connector标签的protocol属性

测试JIoEndpoint的配置：

[html]  view plain  copy
  在CODE上查看代码片 派生到我的代码片
  1. <Connector port="8080" protocol="org.apache.coyote.http11.Http11Protocol "  
  2.                connectionTimeout="20000"  
  3.                redirectPort="8443" />  

测试NioEndpoint的配置：

[html]  view plain  copy
  在CODE上查看代码片 派生到我的代码片
  1. <Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol "  
  2.                connectionTimeout="20000"  
  3.                redirectPort="8443" />  

三种Endpoint的测试采用HTTP Connector 

测试结果： 


通过上表可以看出，Apr处理请求最快，Bio最慢；Apr宽带占用最高，Bio最低；但Apr的内存占用最高，而Nio的内存占用最低

所以综合来看，Nio适用于一般需求；Apr适用于高并发需求

掌灯夜行
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
tomcat源码分析1
08-08
- **AJP Connector**：基于AJP（Apache JServ Protocol）协议，专为Tomcat与其他HTTP服务器（如Apache）间通信设计，具有高速传输效率。 - **APR (Apache Portable Runtime) HTTP Connector**：C语言实现，通过JNI...
tomcat7tomcat8tomcat9
01-22
内含tomcat7 tomcat8 tomcat9免安装版本;供需要的人下载。
Tomcat Connector三种运行模式（BIO, NIO, APR）的比较和优化
Clement-Xu的专栏
07-24 1万+
Tomcat Connector的三种不同的运行模式性能相差很大，有人测试过的结果如下： 这三种模式的不同之处如下： BIO： 一个线程处理一个请求。缺点：并发量高时，线程数较多，浪费资源。 Tomcat7或以下，在Linux系统中默认使用这种方式。 NIO： 利用Java的异步IO处理，可以通过少量的线程处理大量的请求。 Tomcat8在Li
tomcat bio nio apr 模式性能测试与个人看法
weixin_34051201的博客
12-08 2235
11.11活动当天，服务器负载过大，导致部分页面出现了不可访问的状态、那后来主管就要求调优了，下面是tomcat bio、nio、apr模式以及后来自己测试的一些性能结果。 原理方面的资料都是从网上找的，并且把多个地方的整理到了一起，觉得很有意义。（后面对tomcat默认页面测试的数据是自己测出来的），tomcat 的三种模式如果用对...
ab测试tomcat并发性能（测试BIO与NIO差别）(一)
雷雨中的双桅船
08-03 6884
首次使用ab做并发能力的测试 servier.XML配置如下，使用tomcat默认的BIO模式：  "HTTP/1.1"  maxThreads="10000" acceptCount="5000" enableLookups="false" URIEncoding="utf-8"                connectionTimeout="20000"
从连接器组件看Tomcat的线程模型——BIO模式(推荐)
09-29
在高版本的Tomcat（如9及以上）中，BIO模式的实现Http11Protocol已被删除，取而代之的是更高效的NIO（Non-blocking I/O）和APR（Apache Portable Runtime）模式。然而，理解BIO的工作原理对于学习其他线程模型，尤其...
Tomcat7性能优化.docx
11-29
Tomcat启动日志中的`Starting ProtocolHandler`信息可显示当前使用的运行模式，如`http-bio-8080`、`http-nio-8080`或`http-apr-8080`。 5. 启动NIO模式 修改`server.xml`中`Connector`节点的`protocol`属性为`...
apr库(tomcat优化)
01-16
　AJP Connector, 基于AJP协议，AJP是专门设计用来为tomcat与http服务器之间通信专门定制的协议，能提供较高的通信速度和效率。如与Apache服务器集成时，采用这个协议。 　APR HTTP Connector, 用C实现，通过JNI调用...
tomcat8和9_64位
03-04
Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。由于有了Sun 的参与和支持，最新的Servlet 和JSP规范总是能在Tomcat 中得到体现，Tomcat 5支持最新的Servlet 2.4 和JSP 2.0 规范。因为Tomcat技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。
apr库(tomcat优化) for native 20
01-17
　AJP Connector, 基于AJP协议，AJP是专门设计用来为tomcat与http服务器之间通信专门定制的协议，能提供较高的通信速度和效率。如与Apache服务器集成时，采用这个协议。 　APR HTTP Connector, 用C实现，通过JNI...
Tomcat优化(AJP 执行器 运行模式 参数优化)
m0_46690280的博客
10-12 684
Tomcat优化tomcat优化登录tomcat server-status一、优化部署-禁用AJP链接二、优化部署-执行器（线程池）三、优化部署-3种运行模式结论：tomcat8以下用nio，8用nio2或者aprAPR安装默认性能测试调整参数测试禁用AJP设置线程池设置最大等待队列nio2调整JVM参数进行优化设置并行垃圾回收器分析日志设置Gl垃圾收集器 tomcat优化 下载地址 http://tomcat.apache.org/download-80.cgi 登录tomcat server-stat
五、HTTP/AJP Connector、Bio/Nio/Apr性能对比
I want to know a little more.
06-13 1379
Connector初始化/启动的时候,将初始化/启动内部的ProtocolHandler。其实ProtocolHandler只是个接口 ProtocolHandler的UML图(以下这些类在org.apache.coyote包下) 创建Connector对象时，Connector的构造函数内会根据server.xml的Connector标签的配置创建ProtocolHandler(默为Ht...
Tomcat 8 升级为 Tomcat10（踩坑记录）
最新发布
HaSaKing的博客
08-02 4075
Tomcat 8 升级为 Tomcat10 ,使用jakartaee-migration工具进行填坑
Tomcat8，9，10的安装与卸载，存在的坑
u013673369的博客
02-10 2989
一：Tomcat的安装 登陆：http://tomcat.apache.org/ 选择：tomcat，7，8，9，10 一： 32-bit Windows zip (pgp, sha512) 64-bit Windows zip (pgp, sha512) 1.这两个代表的windows系统下的32位 或者64 位免安装版本 2.需要配置环境变量：有很多种配置，但很多有错误，这里提供一种直接配置，配置环境变量见步骤 二： 32-bit/64-bit Windows Service Installer (p
ajp,apr,nio,http
rock
12-10 338
在tomcat6的server.xml里边可以看到ajp和apr,nio相关配置信息。话说ajp1.3(Apache JServ Protocol)是定向包协议，跟http1.1那样是一种协议来的,使用二进制格式来传输可读性文本。如果WEB服务器通过TCP连接和 servlet容器连接。为了减少进程生成 socket的花费，WEB服务器和servlet容器之间尝试保持持久性的TCP连接，对多...
史上最强Tomcat8性能优化
热门推荐
ThinkWon的博客
10-25 5万+
文章目录授人以鱼不如授人以渔目的服务器资源Tomcat配置优化Linux环境安装运行Tomcat8AJP连接执行器（线程池）3种运行模式部署测试用的web项目查看服务器信息部署web应用使用Apache JMeter进行性能测试下载安装修改语言创建接口的测试用例启动与进行接口测试查看测试报告调整Tomcat参数进行优化禁用AJP连接设置线程池最大线程数为150，初始为4最大线程数为500，初始为5...
tomcat运行三种模式:http-bio|http-nio|http-apr介绍
IT乌托邦官方博客
07-27 4万+
Tomcat是一个小型的轻量级应用服务器，也是JavaEE开发人员最常用的服务器之一。不过，许多开发人员不知道的是，Tomcat Connector(Tomcat连接器)有bio、nio、apr三种运行模式，那么这三种运行模式有什么区别呢，我们又如何修改Tomcat Connector的运行模式来提高Tomcat的运行性能呢？ 下面，我们先大致了解Tomcat Connector的三种运
Tomcat性能优化策略与NIO模式详解
标准HTTP连接器支持BIO、NIO和APR/native实现，其中NIO提供了更好的并发性能。配置NIO时，可以设置如`maxConnections`、`acceptCount`等参数以优化性能。 最佳实践中，有时会建议禁用AJP连接器，因为AJP协议虽然...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值