传统网络服务
首先得说一说经典的网络服务的设计:
对于应用服务器,一个主要规律就是,CPU的处理速度是要远远快于IO速度的,如果CPU为了IO操作(例如从Socket读取一段数据)而阻塞显然是不划算的。好一点的方法是分为多进程或者线程去进行处理,但是这样会带来一些进程切换的开销。但这种模式在用户负载增加时,性能将下降非常的快。
Reactor模式
思想:分而治之+事件驱动
一次网络处理过程一般分为 accept、 read、 decode、 compute、 encode、 send这几步。 Reactor将每个步骤映射为一个 task,服务端线程执行的最小逻辑单元不再是一次完整的网络处理过程,而是更小的 task,且采用非阻塞的执行方式。
每个 task对应一个特定的事件,当 task准备就绪时,对应的事件通知就会发出。 Reactor收到事件后,分发给绑定了对应事件的 Handler执行 task。这里引用一张经典的图:
相关概念:
- Reactor:负责响应事件,分发给注册了该事件的handler执行task
- selector:负责监听响应事件,将事件分发给绑定了该事件的Handler处理
- Handler:绑定了某类事件,负责执行该事件对应的 task
- Accept: Handler 的一种,绑定了 connect 事件。它在系统启动的时候就已经绑定了 connnect 事件,并注册到 reactor 中。当有客户端发起 connect 请求时, reactor 会收到 accept 事件,然后分发给 acceptor 。 acceptor 首先会 accept 新的连接,然后新建一个 handler ,将其与该连接上得 read 事件绑定,并注册到 reactor 中。
NIO与Reactor
Java的NIO为reactor模式提供了实现的基础机制,它的Selector当发现某个channel有数据时,会通过SlectorKey来告知我们,在此我们实现事件和handler的绑定。
-
Selector:
Acceptor主要任务就是构建handler ,在获取到和client相关的SocketChannel之后 ,绑定到相应的hanlder上,对应的SocketChannel有读写事件之后,基于reactor 分发,hanlder就可以处理了(所有的IO事件都绑定到selector上,由Reactor分发)。Reactor里的一个核心组成部分,通过调用 selector.select()方法,可以知道感兴趣的 IO事件里哪些已经 ready,该方法是阻塞的,直到有 IO事件 ready;通过调用 selector.selectedKeys()方法,可以获取到 selectionKey对象,这些对象关联有已经ready的IO事件。 -
SelectionKey:
当 selector注册一个channel时,会产生一个该对象,譬如SelectionKey selectionKey = channel .register(selector, SelectionKey. OP_ACCEPT );它维护着 channel 、 selector 、 IO 事件、 Handler 之间的关系。通过调用 attach 方法,可以绑定一个 handler ,譬如: selectionKey.attach(new Acceptor())。 -
ServerSocketChannel:
类似于 ServerSocket,唯一的区别在于: ServerSocketChannel可以使用 selector,而且可以设置为非阻塞模式。 -
SocketChannel:
类似于 Socket,唯一的区别在于: SocketChannel可以使用 selector,而且可以设置为非阻塞模式。 -
ByteBuffer :数据缓冲器,是NIO里将数据移入移出 channel 的唯一方式
服务端代码序列图:
客户端代码序列图:
三种Reactor实现见: 《Reactor模型的Java NIO实现》