NIO入门
-
传统的同步阻塞式I/O编程
-
传统BIO
-
服务端提供位置信息(绑定的IP地址和监听端口),客户端通过连接操作向服务端监听的地址发起连接请求,通过三次握手建立连接,如果连接成功,双方就可以通过网络套接字(Socket)进行通信
-
ServerSocket 负责绑定IP地址,启动监听端口
-
Socket负责发起连接操作。连接成功之后,双方通过输入流和输出流进行同步阻塞式通信
-
-
BIO通信模型
-
采用BIO通信模型的服务端,通常由一个独立的Acceptor线程负责监听客户端的连接,它接收到客户端连接请求之后,为每个客户端创建一个新的线程进行链路处理,处理完成之后,通过输出流返回应答客户端,线程消毁。一请求一应答通信模型
-
缺乏弹性伸缩能力,线程数膨胀,系统的性能将急剧下降,系统会发生线程堆栈溢出,创建新线程失败等问题
-
-
伪异步
-
为了改进一线程一连接模型,后来又演进出了一种通过线程池或者消息队列实现1个或者多个线程处理N个客户端的请求,由于它的底层通信机制依然使用同步阻塞I/O,所以被称为“伪异步”
-
-
伪异步I/O编程
-
为了解决一个链接需要一个线程处理的问题,后来有人对它的线程模型进行了优化,后端通过一个线程池来处理多个客户端的请求接入,形成客户端个数M:线程池最大线程N的比例关系,其中M可以远远大于N,设置线程的最大值,防止由于海量并发接入导致线程耗尽
-
将客户端的Scoket封装成一个Task,投递到后端的线程池中去进行处理,线程池可以设置消息队列的大小和最大线程数,资源占用是可控的。
-
由于线程池和消息队列都有有界的,因此,无论客户端并发连接数多大,它都不会导致线程个数膨胀或者内存溢出,想比较一连一线程模型,是一种改良。
-
优点:采用线程池,避免了为每个请求都创建一个独立线程造成的线程资源耗尽问题,
-
缺点:底层的通信依然采用同步阻塞模型,因此无法从根本解决问题
-
-
伪异步I/O弊端分享
-
TCP知识
-
当消息的接收方处理缓慢的时候,将不能及时地从TCP缓存区读取数据,这将会导致发送方的TCPwindow size不断减少,直到为0,双方处于Keep-Alive状态,消息发送方将不能再向TCP缓冲区写入消息,这时如果采用的是同步阻塞I/O,write操作将会被无限期阻塞,直到TCP window size大于0或者发生I/O异常
-
阻塞的时间取决于对方的I/O线程的处理速度和网络I/O的传输速度。本质上讲,我们无法保证生产环境的网络状态和对端的应用程序能足够快
-
级联故障
-
服务端处理缓慢,返回应答消息耗费60s
-
采用伪异步I/O的线程正在读取故障服务节点的响应,由于读取输入流是阻塞的,因此,它也会被同步阻塞
-
假如所有可用线程都被故障服务器阻塞,那后续所有I/O消息都将在队列中排队
-
由于线程池采用阻塞队列实现,当队列积满之后,后续入列的操作将被阻塞
-
前端只有一个Acceptor线程接受客户端接入,它的阻塞在线程池的同步阻塞队列之后,新的客端请求将被拒绝,客户端会发送大量的超时
-
-
-
-
-
基于NIO的非阻塞编程
-
概念
-
与socket类,和ServerSocket类相对应,NIO也提供了SocketChannel和ServerSocketChannel两种不同的套接字通道实现
-
两种新增的通道都支持阻塞和非阻塞两种模式
-
提供了高速的,面向快的I/O
-
-
缓存区Buffer
-
任何时候访问NIO中的数据,都是通过缓冲区进行操作的,读直接读到缓冲区中的,写入数据,是写入到缓冲区中的
-
缓冲区实质上是个数组。缓冲区提供了对数据的结构化访问以及维护读写位置等信息
-
子节缓冲区,ByteBuffer,CharBuffer 字符缓冲区 。。。
-
方便网络读写
-
-
通道Channel
-
Channel是一个通道,可以通过它读取和写入数据,它就是自来水管
-
通道与流不同之处就在于通道是双向的,流只是一个方向上移动,一个流必须是inputStream或者OutputStream的子类,而且通道可以用于读写,或同时读写
-
因为channel是全双工的,所以它可以比较好的映射底层操作系统的API,
-
实际上channel可以分为两大类,分别是用于网络读取的SelectableChannel和用于文件操作的FileChannel,ServerSocketChannel和SocketChannel都是SelectableChannel的子类
-
-
多路复用器Selector
-
多路复用器提供选择已经就绪的任务的能力,Selector会不断地轮询注册在其上的Channel,如果某个Channel上面有新的TCP连接接入,读和写实际,这个Channel就处于就绪状态,会被Seclettor轮询出来,然后通过SelectionKey,获取就绪的Channel的集合,然后进行后续的I/O操作
-
一个多路复用器Selector可以同时轮询多个Channel,由于jdk使用了epoll代替了传统的select实现,所以它并没有最大连接句柄1024/2048的限制·,这也意味着只需要一个线程负责Seclector的轮询,就可以接入成千上万的客户端,这是个很大的进行。
-
实现步骤
-
打开iServerSocketChannel 用于监听客户端的连接,它是所有客户端连接的父管道
ServerSocketChannel server = ServerSocketChannel.open();
-
绑定监听端口,设置连接为非阻塞模式
server.bind(new InetSocketAddress(this.port));
server.configureBlocking(false);
-
创建Reactor线程,创建多路复用器并启动线程
Selector selector = Selector.open();
-
将ServerSocketChannel注册到Reactor线程的多路复用器Seclector上,监听ACCEPT事件
server.register(selector, SelectionKey.OP_ACCEPT);
-
多路复用器在线程run方法的无限循环体内轮询准备就绪的Key
while (true) { //大堂经理再叫号 selector.select(); //每次都拿到所有的号子 Set<SelectionKey> keys = selector.selectedKeys(); Iterator<SelectionKey> iter = keys.iterator(); //不断地迭代,就叫轮询 //同步体现在这里,因为每次只能拿一个key,每次只能处理一种状态 while (iter.hasNext()) { SelectionKey key = iter.next(); iter.remove(); //每一个key代表一种状态 //没一个号对应一个业务 //数据就绪、数据可读、数据可写 等等等等 process(key); } }
-
-
多路复用器监听到有新的客户端接入,处理新的接入请求,完成TCP三次握手,建立物理链路;设置客户端链路为非阻塞模式;将新接入的客户端连接注册到Reactor线程的多路复用器上,监听读操作,用来读取客户端发送的网络信息
-
if (key.isAcceptable()) { ServerSocketChannel server = (ServerSocketChannel) key.channel(); //这个方法体现非阻塞,不管你数据有没有准备好 //你给我一个状态和反馈 SocketChannel channel = server.accept(); //一定一定要记得设置为非阻塞 channel.configureBlocking(false); //当数据准备就绪的时候,将状态改为可读 key = channel.register(selector, SelectionKey.OP_READ); }
-
异步读取客户端请求信息到缓冲区
//具体办业务的方法,坐班柜员 //每一次轮询就是调用一次process方法,而每一次调用,只能干一件事 //在同一时间点,只能干一件事 // 每个都会跑完,每给都走不同的逻辑,就是不阻塞,然后线程可以去跑其他的,这就是不阻塞 private void process(SelectionKey key) throws IOException { //针对于每一种状态给一个反应 // 是否就绪, if (key.isAcceptable()) { ServerSocketChannel server = (ServerSocketChannel) key.channel(); //这个方法体现非阻塞,不管你数据有没有准备好 //你给我一个状态和反馈 SocketChannel channel = server.accept(); //一定一定要记得设置为非阻塞 channel.configureBlocking(false); //当数据准备就绪的时候,将状态改为可读 key = channel.register(selector, SelectionKey.OP_READ); } // 是否可读 else if (key.isReadable()) { //key.channel 从多路复用器中拿到客户端的引用 SocketChannel channel = (SocketChannel) key.channel(); int len = channel.read(buffer); if (len > 0) { // buffer.flip(); String content = new String(buffer.array(), 0, len); key = channel.register(selector, SelectionKey.OP_WRITE); //在key上携带一个附件,一会再写出去 key.attach(content); System.out.println("读取内容:" + content); } // 是否可写 } else if (key.isWritable()) { SocketChannel channel = (SocketChannel) key.channel(); String content = (String) key.attachment(); channel.write(ByteBuffer.wrap(("输出:" + content).getBytes())); channel.close(); } }
-
-
优点:
-
客户端发起的连接操作是异步的,可以通过在多路复用器注册OP_CINNECT等待后续结果,不需要像之前的客户端那样被同步阻塞
-
SocketChannel的读写操作是异步的,如果没有可读写的数据它不会同步等待,直接返回,这样I/O通信线程就可以处理其他链路,
-
-
-
基于NIO2.0的异步非阻塞(AIO)编程
-
以后加
-
-
为什么要使用NIO编程
-
异步非阻塞
-
JDK 1.7 2002年 提供的NIO2 新增了异步的套接字通道,才是真正的异步I/O,在异步I/O操作的时候,可以传递信号变量,当操作完之后,会回调相关的方法
-
JDK1.4 提供的NIO 实际上只能被称为非阻塞I/O,不能叫异步非阻塞
-
-
多路复用器
-
多路复用的核心,是通过Selector不断地轮询注册在其上的Channel,如果某个Channel上面有新的TCP连接接入,读和写实际,这个Channel就处于就绪状态,会被Seclettor轮询出来,然后通过SelectionKEy,获取就绪的Channel的集合,然后进行后续的I/O操作
-
-
伪异步I/O
-
线程池处理,为了处理Tomcat通信线程同步I/O导致业务线程被挂住的问题
-
-
-
为什么选择Netty
-
因为Netty是NIO的升级版本,这叫好事者,自己写太难了,
-
API使用简单,门槛低
-
功能强大,预置了多种编解码功能,支持多种主流协议
-
性能高
-