Netty简介、Reactor线程模型、Netty模块

1、Netty简介

1.1、什么是Netty？

Netty 是由 JBOSS 提供的一个 Java 开源框架。提供异步的、基于事件驱动的网络应用程序框架，用以快速开发高性能、高可靠性的网络 IO 程序，是当前最流行的通讯框架，在NIO的框架上做了一定的封装，Netty 在互联网领域、大数据分布式计算领域、游戏行业、通信行业等获得了广泛的应用，知名的 Elasticsearch 、Dubbo 框架底层通讯模块都采用了 Netty。

1.2、为什么要使用Netty？

大家都知道我们底层通讯框架有 bio,nio,aio，那么为什么还要用 netty ？
原因：因为NIO 的类库和 API 繁杂， 使用麻烦： 需要熟练掌握Selector、 ServerSocketChannel、 SocketChannel、 ByteBuffer等。开发工作量和难度都非常大： 例如客户端面临断线重连、 网络闪断、心跳处理、半包读写、 网络拥塞和异常流的处 理等等。Netty 对 JDK 自带的 NIO 的 API 进行了良好的封装，解决了上述问题。且Netty拥有高性能、 吞吐量更高，延迟更低，减少资源消耗，最小化不必要的内存复制等优点。

1.3、Netty的使用场景

互联网行业：在分布式系统中，各个节点之间多需要远程调用，高性能的RPC框架都需要底层的内部通讯，Netty 作为异步 高性能的通信框架，往往作为基础通信组件被这些 RPC 框架使用。最经典的就是阿里分布式系统的Dubbo。
游戏行业：游戏开发中，一般都是客户端与服务端频繁交互，所以IO通讯很重要。
大数据领域：经典的 Hadoop 的高性能通信和序列化组件 Avro 的 RPC 框架，默认采用 Netty 进行跨界点通 信，它的 Netty Service 基于 Netty 框架二次封装实现。

2、传统IO模型与Reactor三种线程模型

2.1、传统阻塞 I/O 服务模型

传统的阻塞式I/O模型就是BIO，详情可参考这篇文章

缺点：一个客户端对应一个线程，如果在高并发场景下根本扛不住。

2.2、单 Reactor 单线程

图中Reactor可以理解为一个多路复用器，详情可参考这篇文章的NIO引入多路复用器

这种模型只有一个线程在工作，可以充分压榨一个线程的工作，但是由于是单线程就无法发挥出当代CPU的多核能力，所以就出现了下面的单 Reactor 多线程。

2.3、单 Reactor 多线程

其实也就是在处理读写数据的时候搞一个线程池，这样就可以大大提高服务端处理数据的能力。

可能出现的问题：但是即使是这样，由于在接收客户端请求连接的时候可分发任务的时候仍然用的是同一个 Reactor ，如果一次处理的请求特别多的时候，那么 Reactor 就会一直卡在分发任务上面，当有新的客户端请求连接进来时就会阻塞，所以就出现了下面的主从 Reactor 多线程。

2.4、主从 Reactor 多线程

其实也就是将建立连接的 Reactor 与分发读写数据的 Reactor 分开，二者互不影响，还可以一主多从，多主多从。

2.5、Netty 工作架构图

Netty使用的就是主从 Reactor 模式，如下图所示：

1、 Netty 抽象出两组线程池BossGroup和WorkerGroup，BossGroup专门负责接收客户端的连接, WorkerGroup专 门负责网络的读写。
2、 BossGroup和WorkerGroup类型都是NioEventLoopGroup。
3、NioEventLoopGroup 相当于一个事件循环线程组, 这个组中含有多个事件循环线程 ， 每一个事件循环线程是 NioEventLoop。
4、每个NioEventLoop都有一个selector , 用于监听注册在其上的socketChannel的网络通讯
5、每个Boss NioEventLoop线程内部循环执行的步骤有 3 步
5.1、处理accept事件 , 与client 建立连接 , 生成 NioSocketChannel
5.2、将NioSocketChannel注册到某个worker NIOEventLoop上的selector
5.3、处理任务队列的任务 ， 即runAllTasks
6、每个worker NIOEventLoop线程循环执行的步骤
6.1、轮询注册到自己selector上的所有NioSocketChannel 的read, write事件
6.2、处理 I/O 事件， 即read , write 事件， 在对应NioSocketChannel 处理业务
6.3、runAllTasks处理任务队列TaskQueue的任务 ，一些耗时的业务处理一般可以放入TaskQueue中慢慢处 理，这样不影响数据在 pipeline 中的流动处理
7、每个worker NIOEventLoop处理NioSocketChannel业务时，会使用 pipeline (管道)，管道中维护了很多 handler 处理器用来处理 channel 中的数据。

3、Netty模块组件

3.1、Bootstrap、ServerBootstrap

Bootstrap 意思是引导，一个 Netty 应用通常由一个 Bootstrap 开始，主要作用是配置整个 Netty 程序，串联各个组 件，Netty 中 Bootstrap 类是客户端程序的启动引导类，ServerBootstrap 是服务端启动引导类。

3.2、Future、ChannelFuture

正如前面介绍，在 Netty 中所有的 IO 操作都是异步的，不能立刻得知消息是否被正确处理。 但是可以过一会等它执行完成或者直接注册一个监听，具体的实现就是通过 Future 和 ChannelFutures，他们可以注册一个监听，当操作执行成功或失败时监听会自动触发注册的监听事件。

3.3、Channel

Netty 网络通信的组件，能够用于执行网络 I/O 操作。Channel 为用户提供：
1、当前网络连接的通道的状态（例如是否打开？是否已连接？）。
2、网络连接的配置参数 （例如接收缓冲区大小）。
3、提供异步的网络 I/O 操作(如建立连接，读写，绑定端口)，异步调用意味着任何 I/O 调用都将立即返回，并且不保证在调用结束时所请求的 I/O 操作已完成。
4、调用立即返回一个 ChannelFuture 实例，通过注册监听器到 ChannelFuture 上，可以 I/O 操作成功、失败或取 消时回调通知调用方。
5、支持关联 I/O 操作与对应的处理程序。
不同协议、不同的阻塞类型的连接都有不同的 Channel 类型与之对应。

<!-- 异步的客户端 TCP Socket 连接。 -->
NioSocketChannel
<!-- 异步的服务器端 TCP Socket 连接。 -->
NioServerSocketChannel
<!-- 异步的 UDP 连接。 -->
NioDatagramChannel
<!-- 异步的客户端 Sctp 连接。 -->
NioSctpChannel
<!-- 异步的 Sctp 服务器端连接。 -->
NioSctpServerChannel

上述这些通道都涵盖了 UDP 和 TCP 网络 IO 以及文件 IO。

3.4、Selector

Netty 基于 Selector 对象实现 I/O 多路复用，通过 Selector 一个线程可以监听多个连接的 Channel 事件。 当向一个 Selector 中注册 Channel 后，Selector 内部的机制就可以自动不断地查询(Select) 这些注册的 Channel 是 否有已就绪的 I/O 事件（例如可读，可写，网络连接完成等），这样程序就可以很简单地使用一个线程高效地管理多 个 Channel 。

3.5、NioEventLoop

NioEventLoop 中维护了一个线程和任务队列，支持异步提交执行任务，线程启动时会调用 NioEventLoop 的 run 方 法，执行 I/O 任务和非 I/O 任务： I/O 任务，即 selectionKey 中 ready 的事件，如 accept、connect、read、write 等，由 processSelectedKeys 方法触发。
非 IO 任务，添加到 taskQueue 中的任务，如 register0、bind0 等任务，由 runAllTasks 方法触发。

3.6、NioEventLoopGroup

NioEventLoopGroup，主要管理 eventLoop 的生命周期，可以理解为一个线程池，内部维护了一组线程，每个线程 (NioEventLoop)负责处理多个 Channel 上的事件，而一个 Channel 只对应于一个线程。

3.7、ChannelHandler

ChannelHandler 是一个接口，处理 I/O 事件或拦截 I/O 操作，并将其转发到其 ChannelPipeline(业务处理链)中的 下一个处理程序。 ChannelHandler 本身并没有提供很多方法，因为这个接口有许多的方法需要实现，方便使用期间，可以继承它的子 类：

<!-- 用于处理入站 I/O 事件。 -->
ChannelInboundHandler 
<!-- 用于处理出站 I/O 操作。。 -->
ChannelOutboundHandler 

或者使用以下适配器类：

<!-- 用于处理入站 I/O 事件。 -->
ChannelInboundHandlerAdapter
<!-- 用于处理出站 I/O 操作。。 -->
ChannelOutboundHandlerAdapter

3.8、ChannelHandlerContext

保存 Channel 相关的所有上下文信息，同时关联一个 ChannelHandler 对象。

3.9、ChannelPipline

保存 ChannelHandler 的 List，用于处理或拦截 Channel 的入站事件和出站操作。 ChannelPipeline 实现了一种高级形式的拦截过滤器模式，使用户可以完全控制事件的处理方式，以及 Channel 中各 个的 ChannelHandler 如何相互交互。
在 Netty 中每个 Channel 都有且仅有一个 ChannelPipeline 与之对应，它们的组成关系如下：

一个 Channel 包含了一个 ChannelPipeline，而 ChannelPipeline 中又维护了一个由 ChannelHandlerContext 组 成的双向链表，并且每个 ChannelHandlerContext 中又关联着一个 ChannelHandler。
read事件(入站事件)和write事件(出站事件)在一个双向链表中，入站事件会从链表 head 往后传递到最后一个入站的 handler，出站事件会从链表 tail 往前传递到最前一个出站的 handler，两种类型的 handler 互不干扰。