23 RocketMQ是如何基于Netty扩展出高性能网络通信架构的

1.Reactor主线程与长短连接

在Broker里有一个名叫 “Reactor” 的线程，这个线程是负责监听一个网络端口的，比如监听个2888，39150这样的端口。

短连接

短连接，如果你要给别人发送一个请求，必须要建立连接 -> 发送请求 -> 接收响应 -> 断开连接，下一次你要发送请求的时候，这个过程得重新来一遍。

每次建立一个连接之后，使用这个连接发送请求的时间是很短的，很快就会断开这个连接，所以他存在时间太短了，就是短连接。

长连接

长连接，建立一个练级 -> 发送请求 -> 接收响应 -> 发送请求 -> 接收响应。

整个过程是，当你建立好一个长连接后，可以不停的发送请求和接收响应，连接不会断开，等你不需要的时候再断开就行了，这个连接会存在很长时间，所以是长连接。

TCP长连接

TCP长连接，就是基于TCP协议建立的长连接。

2.Producer和Broker建立一个长连接

此时有一个Producer它要跟Broker建立一个TCP长连接，那么Broker上的这个Reactor主线程，它会在端口上监听到这个Producer建立连接的请求。

接着这个Reactor主线程就专门会负责跟这个Producer按照TCP协议规定的一系列步骤和规范，建立好一个长连接。

SocketChannel

Producer里面会有一个SocketChannel，Broker里也会有一个SocketChannel，这两个SocketChannel就代表了他们两建立好的这个长连接。两个SocketChannel配对起来就代表了一个连接。

Producer就是通过SocketChannel去发送消息给Broker的.

3.基于Reactor线程池监听连接中的请求

Reactor线程池

在Broker中有个概念，就是Reactor线程池。该线程池里默认是3个线程。

当Reactor主线程建立好的每个连接SocketChannel，都会交给这个Reactor线程池里的其中一个线程去监听请求。

整理分析

在有了Reactor线程池之后，我们可以让Producer发送请求过来了，它发送一个消息过来到达Broker里的SocketChannel，此时Reactor线程池里的一个线程会监听到这个SocketChannel中有请求到达了。

4.基于Worker线程池完成一系列准备工作

接着Reactor线程从SocketChannel中读取出来一个请求，这个请求在正式进行处理之前，必须就先要进行一些准备工作和预处理，比如SSL加密验证、编码解码、连接空闲检查、网络连接管理等。

Worker线程池

Worker线程池，默认有8个线程。Reactor线程收到的请求会叫个Worker线程池中的一个线程进行处理，来完成上述的一系列的准备工作。

5.基于业务线程池完成请求的处理

经过Worker线程完成预处理后，接着就需要对这个请求进行正式的业务处理了。也就是将请求转交给业务线程池。

SendMessage线程池

SendMessage线程池是业务线程池的一种。

场景：对于处理发送消息请求而言，就会把请求转交给SendMessage线程池。SendMessage线程是可以配置的，配置的越多，处理消息的吞吐量越高。

业务处理逻辑

当Producer发送消息过来，Broker接收到了消息，肯定是要写入CommitLog文件的，后续要有一些ConsumeQueue之类的事情需要处理，类似这种操作，就是业务处理逻辑。

这一系列预处理之后的请求都是要转发给业务线程池的。

6.为什么这套网络通信框架会是高性能以及高并发的？

由于专门分配了一个Reactor主线程出来，用于专门负责跟各种Producer、Consumer之类的建立长连接。

一旦连接建立好之后，大量的长连接均匀的分配给Reactor线程池里的多个线程。

每个Reactor线程负责监听一部分连接的请求，这个也是一个优化的，通过多线程并发的监听不同连接的请求，可以有效的提升大量并发过来时候的处理能力，可以提升网络框架的并发能力。

接着后续对大量并发过来的请求都是基于Worker线程池进行预处理的，当Worker线程池预处理多个请求的时候，Reactor线程还是可以有条不紊的继续监听和接收大量连接的请求是否到达。

而且最终的读写磁盘文件之类的操作都是交给业务线程池来处理的，当他并发执行多个请求的磁盘读写操作的时候，不影响其他线程池同时接收请求、预处理请求，没任何的影响。

所以最终的效果就是：

• Reactor主线程在端口上监听Producer建立连接的请求，建立长连接
• Reactor线程池并发的监听多个连接的请求是否到达
• Worker请求并发的对多个请求进行预处理
• 业务线程池并发的对多个请求进行磁盘读写业务操作

通过这样的一套网络通信架构，最终实现可以高并发、高吞吐的对大量网络连接发送过来的大量请求进行预处理，从而保证Broker实现高吞吐。

总结：NIO概念同步非阻塞，每个请求对应一个socketchannel通道数据通过bytebuffer来传输，所有的socketchannel注册到selector选择器上reactor线程池从轮询来处理请求调用select poll epoll函数来获取数据，获取后的数据交给worker线程池来进行参数验证和信息封装，业务线程再去读取数据进行写入，每个线程池负责不同的内容相互不影响来提升并发。