Netty核心原理

最新推荐文章于 2024-05-11 08:57:57 发布

哦了优秀

最新推荐文章于 2024-05-11 08:57:57 发布

阅读量5.1k

点赞数 2

分类专栏： Netty 文章标签： java

本文链接：https://blog.csdn.net/weixin_42386438/article/details/124136134

版权

Netty 专栏收录该内容

1 篇文章 0 订阅

订阅专栏

1.Netty介绍

1.1原生NIO存在的问题

1.NIO的类库和API复杂,使用麻烦需要熟练掌握Selector,ServerSocketChannel,SocketChannel,ByteBuffer

2.需要熟悉多线程编程,因为NIO编程涉及到了Reactor模式,需要对多线程跟网络编程有扎实的基础才能编写出高质量的NIO程序。

3.开发工作量跟难度都非常大,例如客户端面临断连重连,网络闪断,半包读写,失败缓存,网络拥塞和异常流的处理等。

4.JDK NIO的bug:Epoll Bug,它会导致Selector空轮询从而导致CPU 100%(在Selector轮询当前是否有IO事件,根据JDK NIO API 描述,Selector的select方法会一直阻塞,直到IO事件到达或超时,但在linux上有时会出现问题,在某些场景下select方法会直接返回,即使没有IO事件到达并且超时这就是Epoll Bug,它会导致线程陷入死循环让CPU飙升到100%,极大的影响了系统的可靠性。到目前为止,JDK暂未解决此问题)

1.2概述

Netty是由JBOSS提供的一个java开源框架,Netty提供异步的,基于事件驱动的网络应用程序框架,用以快速开发高性能,高可靠的网络IO程序,Netty是基于NIO的网络编程框架,使用Netyy可以快速,简单的开发一个网络应用,简化和流程化了NIO的开发过程,Netty强大之处:零拷贝,可拓展时间模型,支持HTTP TCP UDP WebSocket等协议,提供安全传输,压缩,大文件传输,编解码器支持等(Elasticsearch,Dubbo框架内部都采用了Netty)

2.线程模型

2.1线程模型基本介绍

目前存在的线程模型:

1.传统阻塞IO服务模型

2.Reactor模型

根据Reactor的数量和处理资源线程的数量不同可分为三种

1.单Reactor单线程,通过一个或多个输入同时传递服务处理器模式,服务端程序处理传入多个请求,并将它们同步分派到相应的处理线程,所以Reactor模式也称Dispatcher模式,Reactor模式使用IO复用监听事件,收到事件后,分发给某个线程这点就是网络服务器高并发处理关键。

Selector可以实现应用程序通过一个阻塞对象监听多路连接请求,Reactor对象通过Selector监控客户端请求事件,收到事件后通过Dispatch进行分发,建立连接请求事件,由Acceptor通过过Accept处理连接请求,然后创建一个handle对象进行处理连接完成后的后续业务处理。

优点:

模型简单,没有多线程,进程通信,竞争的问题,全部在一个线程中完成

缺点:

只有一个线程无法发挥多核CPU性能,并且由于是单线程出现意外终止或者死循环,会导致整个系统模块不可用,造成节点故障。

2.单Reactor多线程

Reactor对象通过Selector监控客户端请求事件,收到事件后,通过Dispatch进行分发

建立连接请求,则由Acceptor通过Accept处理连接请求

如果不是连接请求,则由Reactor分发调用连接对应的handle来处理

handle只负责响应事件,不做具体的业务处理,通过read读取数据后,会分发给后面的worker线程池的某个线程处理业务

worker线程池会分配独立线程完成真正的业务,并将结果返回给handle,handle接收到响应后,通过send将结果返回给client。

优点:

可以充分利用多核CPU的处理能力

缺点:

多线程的数据共享和访问比较复杂,reactor处理所有时间的监听和响应,在单线程运行在高并发场景容易出现性能瓶颈

3.主从Reactor多线程(服务器1+M+N线程模式,该模式开发的服务器包含一个或多个,连接建立线程+M个IO线程+N个业务处理线程,这是业界成熟的服务器程序设计模式)

1.Reactor主线程MainReactor对象通过Select监听客户端连接事件,收到事件后通过Acceptor处理客户端连接事件

2.当Acceptor处理完客户端连接事件之后(与客户端建立好Socket连接),MainReactor将连接分配给SubReactor(MainReactor只负责监听客户端连接请求,和客户端连接之后将连接交由SubReactor监听后面的IO事件)

3.SubReactor将连接加入到自己的连接队列进行监听,并创建Handler对各种事件进行处理

4.当连接上有新事件发生的时候,SubReactor就会调用对应的Handler处理

5.Handler通过read从连接上读取请求数据,将请求数据分发给Worker线程池进行业务处理

6.Worker线程池会分配独立线程来完成真正的业务处理,并将处理结果返回给Handler,Handler通过send向客户端发送响应数据

7.一个MainReactor可以对应多个SubReactor(一个MainReactor线程可以对应多个SubReactor线程)

优点:

1.MainReactor线程和SubReactor线程的数据交互简单职责明确(MainReactor线程只需要接收新连接,SubReactor线程完成后续的业务处理)

2.MainReactor线程只需要把新连接传给SubReactor线程,SubReactor线程无需返回数据

3.多个SubReactor线程能够对应更高的并发

缺点:

编程复杂度高

3.Netty线程模型

netty的设计模式是基于主从Reactor多线程模式,并在此基础上做了一些改进

3.1简单版Netty模型

1.BossGroup线程维护Selector,ServerSocketChannel注册到Selector上,只关注建立请求事件(主Reactor)

2.当接收到来自客户端的连接建立请求事件的时候,通过SeverSocketChannel.accept方法获得对应的SocketChannel,并封装成NioSocketChannel注册到WorkerGroup线程中的Selector,每个线程运行在一个线程中(从Reactor)

3.当WorkerGroup线程中的Selector监听到自己的IO事件后,就调用Handler进行处理

3.2进阶版Netty模型

1.两组线程池:BossGroup(负责和客户端建立连接)和WorkerGroup(负责处理连接上的写和读)

2.BossGroup和WorkerGroup含有多个不断循环的执行事件处理的线程,每个线程都包含一个Selector用于监听注册在其上的Channel

3.每个BossGroup中的线程循环执行以下三个步骤:

3.1:轮询注册在其上的ServerSocketChannel的accept事件(OP_ACCEPT事件)

3.2:处理accept事件,与客户端建立连接,生成一个NioSocketChannel,并将其注册到WorkerGroup中的某个线程上的Selector

3.3:再去以此循环处理任务队列中的下一个事件

4.每个WorkerGroup中的线程循环执行以下三个步骤:

4.1:轮询注册在其上的NioSocketChannel的read/write事件(OP_READ/OP_WRITE事件)

4.2:在对应的NioSocketChannel上处理read/write事件

4.3:再去以此循环处理任务队列中的下一个事件

3.3详细版Netty模型

1.Netty抽象出两组线程池:BossGroup和WorkerGroup,也可以叫做BossNioEventLoopGroup和WorkerNioEventGroup,每个线程中都有NioEventLoo线程,BossGroup中的线程专门负责和客户端建立连接,WorkerGroup线程专门负责处理连接上的读写。

2.NioEventLoopGroup相当于一个事件循环组,每个组中含有多个事件循环,每个事件循环就是一个NioEventLoop

3.NioEvenLoop表示一个不断循环的执行事件处理的线程,每个NioEventLoop都包含一个Selector,用于监听注册在其上的Socket网络连接(Channel)

4.NioEentLoopGroup可以含有多个线程(既可以含有多个NioEventLoop)

5.每个BossNioEventLoop中循环执行一下三个步骤:

1.selector:轮询注册在其上的ServiceSocketChannel的accept事件(OP_ACCEPT事件)

2.processSelectedKeys:处理accept事件,与客户端建立连接生成一个NioSocketChannel并将其注册到某个WorkerNioEventLooo上的Selector上

3.runAllTaks:再去以此循环处理任务队列中的其他任务