Java NIO 在并发型服务器设计中的应用

1. 引言
随着多处理机体系结构的演变、网络技术的发展和分布式应用的兴起,并发型多任务的
服务器程序设计技术已越来越显示其重要性,这要求服务器程序能够在几百个甚至更多的客
户端同时发出请求信息的情况下,仍能保持高性能的并发处理机制,迅速完成所有并发请求
的处理。传统的并发型服务器设计是利用阻塞型网络I/O 以多线程的模式来实现的,然而由
于系统常常在进行网络读写时处于阻塞状态,会大大影响系统的性能;自Java1. 4 开始引入
了NIO(新I/O) API,通过使用非阻塞型I/O,实现流畅的网络读写操作,为开发高性能并发
型服务器程序提供了一个很好的解决方案。
2. 传统阻塞型网络I/O 的不足
Java 平台传统的I/O 系统都是基于Byte(字节)和Stream(数据流)的,相应的I/O 操
作都是阻塞型的,所以服务器程序也采用阻塞型I/O 进行数据的读、写操作。本文以TCP
长连接模式来讨论并发型服务器的相关设计,为了实现服务器程序的并发性要求,系统由一
个单独的主线程来监听用户发起的连接请求,一直处于阻塞状态;当有用户连接请求到来时,
程序都会启一个新的线程来统一处理用户数据的读、写操作,其操作模式如图1[1]所示。
图1 基于阻塞I/O 的多线程TCP 服务器操作模式
这种模式的优点是简单、实用、易管理;然而缺点也是显而易见的:由于是为每一个客
户端分配一个线程来处理输入、输出数据,其线程与客户机的比例近似为1:1,随着线程
数量的不断增加,服务器启动了大量的并发线程,会大大加大系统对线程的管理开销,这将
成为吞吐量瓶颈的主要原因;其次由于底层的I/O 操作采用的同步模式,I/O 操作的阻塞管
- 2 -
理粒度是以服务于请求的线程为单位的,有可能大量的线程会闲置,处于盲等状态,造成I/O
资源利用率不高,影响整个系统的性能。
对于并发型服务器,系统用在阻塞型I/O 等待和线程间切换的时间远远多于CPU 在内
存中处理数据的时间,因此传统的阻塞型I/O 已经成为制约系统性能的瓶颈。Java1.4 版本
后推出的NIO 工具包,提供了非阻塞型I/O 的异步输入输出机制,为提高系统的性能提供
了可实现的基础机制。
3. NIO 包及工作原理
针对传统I/O 工作模式的不足,NIO 工具包提出了基于Buffer(缓冲区)、Channel(通
道)、Selector(选择器)的新模式[2];Selector(选择器)、可选择的Channel(通道)和
SelectionKey(选择键)配合起来使用,可以实现并发的非阻塞型I/O 能力。
3.1 NIO 工具包的成员[3]
3.1.1 Buffer(缓冲器)
Buffer 类是一个抽象类,它有7 个子类分别对应于七种基本的数据类型:ByteBuffer、
CharBuffer、DoubleBuffer、FloatBuffer、IntBuffer、LongBuffer 和ShortBuffer。每一个Buffer
对象相当于一个数据容器,可以把它看作内存中的一个大的数组,用来存储和提取所有基本
类型(boolean 型除外)的数据。Buffer 类的核心是一块内存区,可以直接对其执行与内存有关
的操作,利用操作系统特性和能力提高和改善Java 传统I/O 的性能。
3.1.2 Channel(通道)
Channel 被认为是NIO 工具包的一大创新点,是(Buffer)缓冲器和I/O 服务之间的通道,
具有双向性,既可以读入也可以写出,可以更高效的传递数据。我们这里主要讨论
ServerSocketChannel 和SocketChannel,它们都继承了SelectableChannel,是可选择的通道,
分别可以工作在同步和异步两种方式下(这里的可选择不是指可以选择两种工作方式,而是
指可以有选择的注册自己感兴趣的事件)。当通道工作在同步方式时,它的功能和编程方法
与传统的ServerSocket、Socket 对象相似;当通道工作在异步工作方式时,进行输入输出处
理不必等到输入输出完毕才返回,并且可以将其感兴趣的(如:接受操作、连接操作、读出
操作、写入操作)事件注册到Selector 对象上,与Selector 对象协同工作可以更有效率的支
持和管理并发的网络套接字连接。
3.1.3 Selector(选择器)和SelectionKey(选择键)
各类Buffer 是数据的容器对象;各类Channel 实现在各类Buffer 与各类I/O 服务间传输
数据。Selector 是实现并发型非阻塞I/O 的核心,各种可选择的通道将其感兴趣的事件注册
到Selector 对象上,Selector 在一个循环中不断轮循监视这各些注册在其上的Socket 通道。
SelectionKey 类则封装了SelectableChannel 对象在Selector 中的注册信息。当Selector 监测
到在某个注册的SelectableChannel 上发生了感兴趣的事件时,自动激活产生一个SelectionKey
对象,在这个对象中记录了哪一个SelectableChannel 上发生了哪种事件,通过对被激活的
SelectionKey 的分析,外界可以知道每个SelectableChannel 发生的具体事件类型,进行相应的
处理。
- 3 -
3.2 NIO 工作原理
通过上面的讨论,我们可以看出在并发型服务器程序中使用NIO,实际上是通过网络事
件驱动模型实现的。我们应用Select 机制,不用为每一个客户端连接新启线程处理,而是将
其注册到特定的Selector 对象上,这就可以在单线程中利用Selector 对象管理大量并发的网
络连接,更好的利用了系统资源;采用非阻塞I/O 的通信方式,不要求阻塞等待I/O 操作完
成即可返回,从而减少了管理I/O 连接导致的系统开销,大幅度提高了系统性能。NIO 的结
构如图2 所示。
图2 非阻塞网络I/O 原理
从图中可以看出,当有读或写等任何注册的事件发生时,可以从Selector 中获得相应的
SelectionKey , 从SelectionKey 中可以找到发生的事件和该事件所发生的具体的
SelectableChannel,以获得客户端发送过来的数据。由于在非阻塞网络I/O 中采用了事件触
发机制,处理程序可以得到系统的主动通知,从而可以实现底层网络I/O 无阻塞、流畅地读
写,而不像在原来的阻塞模式下处理程序需要不断循环等待。使用NIO,可以编写出性能更
好、更易扩展的并发型服务器程序。
4. 并发型服务器程序的实现代码
应用NIO 工具包,基于非阻塞网络I/O 设计的并发型服务器程序与以往基于阻塞I/O 的
实现程序有很大不同,在使用非阻塞网络I/O 的情况下,程序读取数据和写入数据的时机不
是由程序员控制的,而是Selector 决定的。下面便给出基于非阻塞网络I/O 的并发型服务器
程序的核心代码片段[4]:

Java代码 复制代码
  1. import java.io.*; //引入Java.io包   
  2. import java.net.*; //引入Java.net包   
  3. import java.nio.channels.*; //引入Java.nio.channels包   
  4. import java.util.*; //引入Java.util包   
  5. public class TestServer implements Runnable   
  6. {   
  7. /**  
  8. - 4 -  
  9. * 服务器Channel对象,负责接受用户连接  
  10. */  
  11. private ServerSocketChannel server;   
  12. /**  
  13. * Selector对象,负责监控所有的连接到服务器的网络事件的发生  
  14. */  
  15. private Selector selector;   
  16. /**  
  17. * 总的活动连接数  
  18. */  
  19. private int activeSockets;   
  20. /**  
  21. * 服务器Channel绑定的端口号  
  22. */  
  23. private int port ;   
  24. /**  
  25. * 构造函数  
  26. */  
  27. public TestServer()throws IOException   
  28. {   
  29. activeSockets=0;   
  30. port=9999//初始化服务器Channel绑定的端口号为9999   
  31. selector= Selector.open();//初始化Selector对象   
  32. server=ServerSocketChannel.open();//初始化服务器Channel对象   
  33. ServerSocket socket=server.socket();//获取服务器Channel对应的//ServerSocket对象   
  34. socket.bind(new InetSocketAddress(port));//把Socket绑定到监听端口9999上   
  35. server.configureBlocking(false);//将服务器Channel设置为非阻塞模式   
  36. server.register(selector,SelectionKey.OP_ACCEPT);//将服务器Channel注册到   
  37. Selector对象,并指出服务器Channel所感兴趣的事件为可接受请求操作   
  38. }   
  39. public void run()   
  40. {   
  41. while(true)   
  42. {   
  43. try  
  44. {   
  45. /**  
  46. * 应用Select机制轮循是否有用户感兴趣的新的网络事件发生,当没有  
  47. - 5 -  
  48. * 新的网络事件发生时,此方法会阻塞,直到有新的网络事件发生为止  
  49. */  
  50. selector.select();   
  51. }   
  52. catch(IOException e)   
  53. {   
  54. continue//当有异常发生时,继续进行循环操作   
  55. }   
  56. /**  
  57. * 得到活动的网络连接选择键的集合  
  58. */  
  59. Set<SelectionKey> keys=selector.selectedKeys();   
  60. activeSockets=keys.size();//获取活动连接的数目   
  61. if(activeSockets==0)   
  62. {   
  63. continue//如果连接数为0,则继续进行循环操作   
  64. }   
  65. /**  
  66. * 应用For—Each循环遍历整个选择键集合  
  67. */  
  68. for(SelectionKey key :keys)   
  69. {   
  70. /**  
  71. * 如果关键字状态是为可接受,则接受连接,注册通道,以接受更多的*  
  72. 事件,进行相关的服务器程序处理  
  73. */  
  74. if(key.isAcceptable())   
  75. {   
  76. doServerSocketEvent(key);   
  77. continue;   
  78. }   
  79. /**  
  80. * 如果关键字状态为可读,则说明Channel是一个客户端的连接通道,  
  81. * 进行相应的读取客户端数据的操作  
  82. */  
  83. if(key.isReadable())   
  84. {   
  85. doClientReadEvent(key);   
  86. continue;   
  87. 6 -   
  88. }   
  89. /**  
  90. * 如果关键字状态为可写,则也说明Channel是一个客户端的连接通道,  
  91. * 进行相应的向客户端写数据的操作  
  92. */  
  93. if(key.isWritable())   
  94. {   
  95. doClinetWriteEvent(key);   
  96. continue;   
  97. }   
  98. }   
  99. }   
  100. }   
  101. /**  
  102. * 处理服务器事件操作  
  103. * @param key 服务器选择键对象  
  104. */  
  105. private void doServerSocketEvent(SelectionKey key)   
  106. {   
  107. SocketChannel client=null;   
  108. try  
  109. {   
  110. ServerSocketChannel server=(ServerSocketChannel)key.channel();   
  111. client=server.accept();   
  112. if(client==null)   
  113. {   
  114. return;   
  115. }   
  116. client.configureBlocking(false);//将客户端Channel设置为非阻塞型   
  117. /**  
  118. * 将客户端Channel注册到Selector对象上,并且指出客户端Channel所感  
  119. * 兴趣的事件为可读和可写  
  120. */  
  121. client.register(selector,SelectionKey.OP_READ|SelectionKey.OP_READ);   
  122. }catch(IOException e)   
  123. {   
  124. try  
  125. {   
  126. client.close();   
  127. 7 -   
  128. }catch(IOException e1){}   
  129. }   
  130. }   
  131. /**  
  132. * 进行向客户端写数据操作  
  133. * @param key 客户端选择键对象  
  134. */  
  135. private void doClinetWriteEvent(SelectionKey key)   
  136. {   
  137. 代码实现略;   
  138. }   
  139. /**  
  140. * 进行读取客户短数据操作  
  141. * @param key 客户端选择键对象  
  142. */  
  143. private void doClientReadEvent(SelectionKey key)   
  144. {   
  145. 代码实现略;   
  146. }   
  147. }  
import java.io.*; //引入Java.io包
import java.net.*; //引入Java.net包
import java.nio.channels.*; //引入Java.nio.channels包
import java.util.*; //引入Java.util包
public class TestServer implements Runnable
{
/**
- 4 -
* 服务器Channel对象,负责接受用户连接
*/
private ServerSocketChannel server;
/**
* Selector对象,负责监控所有的连接到服务器的网络事件的发生
*/
private Selector selector;
/**
* 总的活动连接数
*/
private int activeSockets;
/**
* 服务器Channel绑定的端口号
*/
private int port ;
/**
* 构造函数
*/
public TestServer()throws IOException
{
activeSockets=0;
port=9999;//初始化服务器Channel绑定的端口号为9999
selector= Selector.open();//初始化Selector对象
server=ServerSocketChannel.open();//初始化服务器Channel对象
ServerSocket socket=server.socket();//获取服务器Channel对应的//ServerSocket对象
socket.bind(new InetSocketAddress(port));//把Socket绑定到监听端口9999上
server.configureBlocking(false);//将服务器Channel设置为非阻塞模式
server.register(selector,SelectionKey.OP_ACCEPT);//将服务器Channel注册到
Selector对象,并指出服务器Channel所感兴趣的事件为可接受请求操作
}
public void run()
{
while(true)
{
try
{
/**
* 应用Select机制轮循是否有用户感兴趣的新的网络事件发生,当没有
- 5 -
* 新的网络事件发生时,此方法会阻塞,直到有新的网络事件发生为止
*/
selector.select();
}
catch(IOException e)
{
continue;//当有异常发生时,继续进行循环操作
}
/**
* 得到活动的网络连接选择键的集合
*/
Set<SelectionKey> keys=selector.selectedKeys();
activeSockets=keys.size();//获取活动连接的数目
if(activeSockets==0)
{
continue;//如果连接数为0,则继续进行循环操作
}
/**
* 应用For—Each循环遍历整个选择键集合
*/
for(SelectionKey key :keys)
{
/**
* 如果关键字状态是为可接受,则接受连接,注册通道,以接受更多的*
事件,进行相关的服务器程序处理
*/
if(key.isAcceptable())
{
doServerSocketEvent(key);
continue;
}
/**
* 如果关键字状态为可读,则说明Channel是一个客户端的连接通道,
* 进行相应的读取客户端数据的操作
*/
if(key.isReadable())
{
doClientReadEvent(key);
continue;
- 6 -
}
/**
* 如果关键字状态为可写,则也说明Channel是一个客户端的连接通道,
* 进行相应的向客户端写数据的操作
*/
if(key.isWritable())
{
doClinetWriteEvent(key);
continue;
}
}
}
}
/**
* 处理服务器事件操作
* @param key 服务器选择键对象
*/
private void doServerSocketEvent(SelectionKey key)
{
SocketChannel client=null;
try
{
ServerSocketChannel server=(ServerSocketChannel)key.channel();
client=server.accept();
if(client==null)
{
return;
}
client.configureBlocking(false);//将客户端Channel设置为非阻塞型
/**
* 将客户端Channel注册到Selector对象上,并且指出客户端Channel所感
* 兴趣的事件为可读和可写
*/
client.register(selector,SelectionKey.OP_READ|SelectionKey.OP_READ);
}catch(IOException e)
{
try
{
client.close();
- 7 -
}catch(IOException e1){}
}
}
/**
* 进行向客户端写数据操作
* @param key 客户端选择键对象
*/
private void doClinetWriteEvent(SelectionKey key)
{
代码实现略;
}
/**
* 进行读取客户短数据操作
* @param key 客户端选择键对象
*/
private void doClientReadEvent(SelectionKey key)
{
代码实现略;
}
}

 

 

 

从上面对代码可以看出,使用非阻塞性I/O进行并发型服务器程序设计分三个部分:1.
向Selector对象注册感兴趣的事件;2.从Selector中获取所感兴趣的事件;3.根据不同的事件进
行相应的处理。
5. 结语
通过使用NIO 工具包进行并发型服务器程序设计,一个或者很少几个Socket 线程就可
以处理成千上万个活动的Socket 连接,大大降低了服务器端程序的开销;同时网络I/O 采取
非阻塞模式,线程不再在读或写时阻塞,操作系统可以更流畅的读写数据并可以更有效地向
CPU 传递数据进行处理,以便更有效地提高系统的性能。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值