Cindy 3.0a4 效率测试

最新推荐文章于 2024-08-16 10:13:06 发布
最新推荐文章于 2024-08-16 10:13:06 发布
阅读量1k 收藏
点赞数
分类专栏： java网络编程 文章标签： 测试 server lighttpd tomcat mina session

 


硬件环境：

服务器和客户端为同一台机器：XEON 3.0G/2G/SUSE 10.0/Kernel 2.6.13-15-smp

软件环境：

Java虚拟机均采用BEA JRockit，版本号为R26.0.0-189-53463-1.5.0_04-20051122-2040-linux-ia32，运行时参数均指定为-Xms512m -Xmx512m。

除Resin外，所有server的backlog都设为10000（未找到Resin中设置该选项的位置）。QuickServer虽然提供了file server，但是由于其发送完成后不关闭连接，用AB无法测试。

  • Echo web server
    • Cindy 2.4.4 http server
    • Cindy 3.0a4 http server (use SocketSessionAcceptor)
    • Cindy 3.0a4 http server (use ServerSocketChannelSession)
    • MINA 0.9.2 http server
    • QuickServer 1.4.7 echo web server (blocking mode, disable log and admin)
    • QuickServer 1.4.7 echo web server (non-blocking mode, disable log and admin)
  • File web server
    • cindy 3.0a4 http server (use SocketSessionAcceptor)
    • cindy 3.0a4 http server (use ServerSocketChannelSession)
    • tomcat 5.5.15 (disable log)
    • jetty 5.1.10 (disable log)
    • resin 3.0.18 (disable log)
    • apache 2.0.54
    • lighttpd 1.4.11 (disable log)
    • thttpd 2.25b (disable log)

测试工具：

Apache Benchmark，2.0.40-dev版本。

先使用concurrent level 10，测试10w（大文件测试2k个）个请求热身，结果不记入统计。随后分别使用concurrent level 1/10/100/500/1000，测试20w（大文件测试1w个）个请求，对结果进行统计。

测试结果

表格中为Requests per second，数值越高越好。

Echo web server：

Concurrent  Cindy 2.4.4Cindy 3.0a4 (acceptor)Cindy 3.0a4 (session)MINA 0.9.2QS 1.4.7 (blocking)QS 1.4.7(non-blocking)
1337627603062failed2299failed
10488245814561failed32441890
100499849034494failed14251890
500489145284847failed13381353
1000454640184552failed11921313

 

echo

 

File web server (small file 100 bytes)：

ConcurrentCindy 3.0a4 (acceptor)Cindy 3.0a4 (session)Tomcat 5.5.15Jetty 5.1.10Resin 3.0.18Apache 2.0.54lighttpd 1.4.11thttpd 2.25b
124442641329423083809298245403145
1038123823427531775231356360444156
10041933673457832214257357958494215
50037593737389631454309338548884104
100037763773385829874040268540413986

 

small

 

File web server (small file 100 bytes, keep alive)：

ConcurrentCindy 3.0a4 (acceptor)Cindy 3.0a4 (session)Tomcat 5.5.15Jetty 5.1.10Resin 3.0.18Apache 2.0.54lighttpd 1.4.11thttpd 2.25b
15119timeout70234980372057718824 -
105275timeout687852893753660213441 -
1006322timeout960939474041639112951 -
5005237timeout595252344331629212495 -
10005612timeout547843184046336711696 -

 

 

<P smallk

 

File web server (large file 947111 bytes)：

ConcurrentCindy 3.0a4 (acceptor)Cindy 3.0a4 (session)Tomcat 5.5.15Jetty 5.1.10Resin 3.0.18Apache 2.0.54lighttpd 1.4.11thttpd 2.25b
1299280163128251385280340
10257255203 (62 failed)213253366318365
100237240190 (9991 failed)189226339296288
500218214183 (46 failed)186 (1 failed)211305281286
1000196182167 (23 failed)182 (43 failed)177258238240

 

large

 

总结

先解释一下为什么Cindy 3.0a4的测试会有两种：一种是基于SocketSessionAcceptor的，一种是基于ServerSocketChannelSession 的。在开发机器上测试时，这两种类型的测试结果有较大的差距，基于Acceptor的测试实际上同时有两个线程在运行，一个线程不停的accept，然后 另一个核心线程做相应的处理；而基于Session的测试实际上只有一个线程在运行，就是核心线程既负责accept，也负责处理。在赛扬2.4的机器 上，第一种的测试成绩大约为650#/sec，而第二种的测试成绩大约能到900#/sec。鉴于这两者在开发机器上的性能差距，所以在服务器上也做了这 两种测试。

另外，由于这种测试绝大部分时间都是消耗在网络I/O上面，业务逻辑的处理用时非常少，所以只有在使用DirectDisptcher时才拥有最好 的响应时间，多开线程会使响应时间大幅下降。也正是这个原因，前两种类型在开发机上的测试结果有如此大的差距。不过由于这次测试机器的CPU是XEON， 双核，所以这两种类型的测试结果差距不明显。

 

在Echo web server的测试中，MINA 0.9.2在完成一个请求后就不再相应后续的请求了，可能是代码中存在的一些Bug所导致，所以这次测试对MINA来说其实稍微有些不公平，我会等它在后 续的版本修正了这个问题后再进行一次测试；本来在开发机上QuickServer的测试结果和Cindy的测试结果非常接近，在blocking模式下， 性能甚至稍微超出Cindy 3.0a4，没想到放到服务器上测试时会有这么大的差距；Cindy 2.4.4依旧傻快傻快，呵呵，不过它的模型没有Cindy 3.0这么容易扩充，而且Cindy 3.0在这种场景下和它的差距也是非常小的，所以还是推荐尽早升级到Cindy 3.0。

基于小文件的测试，Resin和Tomat遥遥领先，阻塞I/O＋线程池的效率充分发挥了出来。并且这种压力测试速度又快，一个连接非常短的时间就 能被处理完，正好是阻塞I/O＋线程池的优势所在。在concurrent较小的情况下，这种优势更加明显，在concurrent逐渐增大后，阻塞I /O和非阻塞I/O处理效率上就越来越接近了。在这个测试中Jetty的结果比较令人失望。

Keep alive的连接测试中，基于Session的测试耗时太长被中途放弃，怀疑是由于单线程运行+Keep alive造成了始终在处理第一个连接所造成，这个还有待证实；Tomcat的表现更是突出，而在这个场景中本来应该是非阻塞I/O的强项所在。不过最大 的concurrent也只到1000，在真实的环境中，如果concurrent持续增大，cindy的优势应该会更加突出才对。

大文件的测试类似于Keep alive的测试，这种场景应该也是非阻塞I/O的优势场景。在该场景中，cindy总算体现了非阻塞I/O的优势，而tomcat的表现就有点失望了， 失败数也太多了一点……我研究过Tomcat的源代码，没采用JNI的话它是基于阻塞I/O的实现，只能通过SO_TIMEOUt来中断对数据的读取和写 入，所以它在运行时会通过计算服务器的负载来设置相应的SO_TIMEOUT，负载小于33%情况下采用默认的SO_TIMEOUT，33%到66%之间 SO_TIMEOUT减半，66%到90%之间，SO_TIMEOUT变为默认的1/3，超过90%则急速降为默认的5%。我怀疑在大文件的测试当中，由 于服务器线程负载太大，所以导致超时时间变为默认的5%，从而造成了这么多的失败数。

 

总体来讲，在基于NIO的异步I/O框架中，我认为Cindy的效率应该算是很不错的了；阻塞I/O＋线程池的做法在并发量少、连接时间短的应用中 比NIO有着更高的效率，但是随着并发量的上升，两者的差距会逐渐缩小（再上升会不会反超？未经证实……）。但Java的网络层效率还是和C/C++的实 现还是有着明显差距，高性能网络应用的首选还是C/C++。

kjfcpua
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Cindy 3.0b1 的源码--- Mina的兄弟
11-22
Netty、Mina、Cindy都是不错的NIO开源框架，后两者都是在Netty的基础上演化出来的。所以要学习好Java的异步通信框架，这三个都是不可多得的好材料。 本资源仅供学习和参考使用，若要进行开发，请下载相应的Jar包
cindy-3.0b1-bin开发包
03-19
Cindy是一个Java异步I/O框架，提供了一个统一高效的模型，同时支持TCP、UDP以及Pipe，并能够方便的在异步和同步操作之间进行切换。目前其实现是基于Java NIO，并计划通过JNI来支持各操作系统上本身提供的异步I/O功能...
Cindy 3.0a5 released
kjfcpua的专栏
11-26 557
 Cindy 3.0a5 released下载地址：http://cindy.sourceforge.net 修改记录：修正ant脚本中未使用fork加载http server的bug将内部BufferCache接口改名为BufferPool在Session接口中，使用getAttribute/setAttribute/removeAttribute代替原来
Cindy 3.0 效率测试
kjfcpua的专栏
11-26 931
 Cindy 3.0 效率测试客户端环境：AB 2.0.41-dev服务器环境，客户端和服务器在同一台机器上，不带任何参数运行：MINA 0.90示例所带的HttpServer（修改了MINA 0.90中ByteBuffer.wrap不正确的Bug）MINA 0.90示例所带的HttpServer修改版（修改了MINA 0.90中ByteBuffer.w
Cindy 3.0a4 configuration
kjfcpua的专栏
11-26 1059
  Global configurationnet.sf.cindy.config (default: config.properties)     Cindy config filenet.sf.cindy.enableJmx (default: false)     Enable jmx supportnet.sf.cindy.disableInnerE
Cindy 3.0a4 released
kjfcpua的专栏
11-26 624
 下载地址： http://cindy.sourceforge.net/修改记录：SSLFilter可以被用于任意基于流的Session支持分发线程池（-Dnet.sf.cindy.dispatcher.concurrent）添加了DirectDispatcher，在当前线程中分发，但是不支持在分发线程中进行阻塞操作（比如Future.complete）
Cindy 3.0a3 user guide released
kjfcpua的专栏
11-26 947
 下载地址： http://cindy.sourceforge.net/UserGuide.pdf User Guide中的示例都是非常简单的示例，起个入门的作用。有了这个引子，再看看cindy源代码example目录下的示例，应该很容易就能上手。 希望各位多提意见，这样才好根据你们的意见来做改进：） a4的主要目标是提高Cindy的易用性，比如通过运行
Cindy 3.0a3 released
kjfcpua的专栏
11-26 4529
 下载地址： http://sourceforge.net/projects/cindy修改记录：添加了SSLFilter，不过仅能运行在Java 5.0以及以后的版本上添加了net.sf.cindy.session.dispatcher包，应用可以加入自定义的Dispatcher实现（通过-Dnet.sf.cindy.dispatcher=Dispatcher实现类
Cindy 3.0中的Buffer设计
kjfcpua的专栏
11-26 666
 俗话说兵马未动，粮草先行，Cindy 3.0版本连影子还没见着，Blog倒是放出了好几篇…… 为了以示区分，nio的ByteBuffer我简称为NB，cindy的Buffer我简称为CB。 现在对NB的理解比上次写Redesign Buffer这篇Blog时要更深入一些，所以在CB的设计上观念有了一些变化：类似ByteArrayOutputStream/B
Cindy 3.0a2 released
kjfcpua的专栏
11-26 432
 Cindy 3.0a2 released下载地址：http://sourceforge.net/projects/cindy/ 修改记录：添加了对JMX的支持 （通过运行时指定-Dnet.sf.cindy.useJmx）添加了流量控制提高了Buffer效率提高了PacketDecoderFilter效率将默认的PacketEncoder由ByteA
异步IO框架 Cindy
06-02
异步IO框架Cindy是一种高效、灵活的编程模型，它为开发者提供了处理高并发和低延迟场景的能力。在现代计算环境中，特别是在网络...掌握Cindy框架，不仅能够提升开发效率，还能帮助开发者构建更加稳定、可扩展的系统。
cindy.jar 源码工具包
05-06
cindy.jar 源码工具包
Cindy components v6.53 for All Delphi
02-03
Packages with 71 components for all delphi versions (since D7) to build Windows 32/64 bit applications: VCL controls (labels, buttons, panels, Edits, TabControls, StaticText) with features like ...
软件测试经典面试题（答案解析+文档）
HUA6911的博客
08-13 866
这些资料，对于做【软件测试】的朋友来说应该是最全面最完整的备战仓库，这个仓库也陪伴我走过了最艰难的路程，希望也能帮助到你！凡事要趁早，特别是技术行业，一定要提升技术功底。
AI赋能软件测试：从自动化到智能化，让测试工作事半功倍
m0_64146991的博客
08-15 314
APP端测试，专项测试，测试工具
Java学习日记（day20）
qq_59031302的博客
08-14 379
MVC全名是Model View Controller，是模型(model)－视图(view)－控制器(controller)的缩写，一种软件设计典范，用一种业务逻辑、数据、界面显示分离的方法组织代码，将业务逻辑聚集到一个部件里面，在改进和个性化定制界面及用户交互的同时，不需要重新编写业务逻辑。最简单的、最经典就是JSP(view) +Servlet(controller) + JavaBean(model)JavaBean：一种规范，表达实体和信息的规范，便于封装重用。什么是JavaBean。
Python 如何使用 mock 进行测试
最新发布
Itmastergo的博客
08-16 805
Mock 是一种模拟对象的技术，用于测试中替代真实的对象。通过 Mock 对象，我们可以在测试时完全控制被测代码的外部依赖，而不需要真正的依赖。隔离测试：通过使用 Mock 对象，可以避免测试中真实依赖的干扰，确保测试的稳定性和重复性。提高测试速度：Mock 可以替代一些耗时操作，如数据库查询或 API 调用，从而大幅度提高测试速度。更好的错误模拟：可以通过 Mock 对象来模拟一些异常情况或错误状态，从而测试代码的健壮性和容错性。
软件测试.
qq_51240148的博客
08-12 282
..
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值