Netty2

NIO入门

  • 传统的同步阻塞式I/O编程

    • 传统BIO

      • 服务端提供位置信息(绑定的IP地址和监听端口),客户端通过连接操作向服务端监听的地址发起连接请求,通过三次握手建立连接,如果连接成功,双方就可以通过网络套接字(Socket)进行通信

      • ServerSocket 负责绑定IP地址,启动监听端口

      • Socket负责发起连接操作。连接成功之后,双方通过输入流和输出流进行同步阻塞式通信

    • BIO通信模型

      • 采用BIO通信模型的服务端,通常由一个独立的Acceptor线程负责监听客户端的连接,它接收到客户端连接请求之后,为每个客户端创建一个新的线程进行链路处理,处理完成之后,通过输出流返回应答客户端,线程消毁。一请求一应答通信模型

      • 缺乏弹性伸缩能力,线程数膨胀,系统的性能将急剧下降,系统会发生线程堆栈溢出,创建新线程失败等问题

    • 伪异步

      • 为了改进一线程一连接模型,后来又演进出了一种通过线程池或者消息队列实现1个或者多个线程处理N个客户端的请求,由于它的底层通信机制依然使用同步阻塞I/O,所以被称为“伪异步”

    • 伪异步I/O编程

      • 为了解决一个链接需要一个线程处理的问题,后来有人对它的线程模型进行了优化,后端通过一个线程池来处理多个客户端的请求接入,形成客户端个数M:线程池最大线程N的比例关系,其中M可以远远大于N,设置线程的最大值,防止由于海量并发接入导致线程耗尽

      • 将客户端的Scoket封装成一个Task,投递到后端的线程池中去进行处理,线程池可以设置消息队列的大小和最大线程数,资源占用是可控的。

      • 由于线程池和消息队列都有有界的,因此,无论客户端并发连接数多大,它都不会导致线程个数膨胀或者内存溢出,想比较一连一线程模型,是一种改良。

      • 优点:采用线程池,避免了为每个请求都创建一个独立线程造成的线程资源耗尽问题,

      • 缺点:底层的通信依然采用同步阻塞模型,因此无法从根本解决问题

    • 伪异步I/O弊端分享

      • TCP知识

        • 当消息的接收方处理缓慢的时候,将不能及时地从TCP缓存区读取数据,这将会导致发送方的TCPwindow size不断减少,直到为0,双方处于Keep-Alive状态,消息发送方将不能再向TCP缓冲区写入消息,这时如果采用的是同步阻塞I/O,write操作将会被无限期阻塞,直到TCP window size大于0或者发生I/O异常

        • 阻塞的时间取决于对方的I/O线程的处理速度和网络I/O的传输速度。本质上讲,我们无法保证生产环境的网络状态和对端的应用程序能足够快

        • 级联故障

          • 服务端处理缓慢,返回应答消息耗费60s

          • 采用伪异步I/O的线程正在读取故障服务节点的响应,由于读取输入流是阻塞的,因此,它也会被同步阻塞

          • 假如所有可用线程都被故障服务器阻塞,那后续所有I/O消息都将在队列中排队

          • 由于线程池采用阻塞队列实现,当队列积满之后,后续入列的操作将被阻塞

          • 前端只有一个Acceptor线程接受客户端接入,它的阻塞在线程池的同步阻塞队列之后,新的客端请求将被拒绝,客户端会发送大量的超时

  • 基于NIO的非阻塞编程

    • 概念

      • 与socket类,和ServerSocket类相对应,NIO也提供了SocketChannel和ServerSocketChannel两种不同的套接字通道实现

      • 两种新增的通道都支持阻塞和非阻塞两种模式

      • 提供了高速的,面向快的I/O

    • 缓存区Buffer

      • 任何时候访问NIO中的数据,都是通过缓冲区进行操作的,读直接读到缓冲区中的,写入数据,是写入到缓冲区中的

      • 缓冲区实质上是个数组。缓冲区提供了对数据的结构化访问以及维护读写位置等信息

      • 子节缓冲区,ByteBuffer,CharBuffer 字符缓冲区 。。。

      • 方便网络读写

    • 通道Channel

      • Channel是一个通道,可以通过它读取和写入数据,它就是自来水管

      • 通道与流不同之处就在于通道是双向的,流只是一个方向上移动,一个流必须是inputStream或者OutputStream的子类,而且通道可以用于读写,或同时读写

      • 因为channel是全双工的,所以它可以比较好的映射底层操作系统的API,

      • 实际上channel可以分为两大类,分别是用于网络读取的SelectableChannel和用于文件操作的FileChannel,ServerSocketChannel和SocketChannel都是SelectableChannel的子类

    • 多路复用器Selector

      • 多路复用器提供选择已经就绪的任务的能力,Selector会不断地轮询注册在其上的Channel,如果某个Channel上面有新的TCP连接接入,读和写实际,这个Channel就处于就绪状态,会被Seclettor轮询出来,然后通过SelectionKey,获取就绪的Channel的集合,然后进行后续的I/O操作

      • 一个多路复用器Selector可以同时轮询多个Channel,由于jdk使用了epoll代替了传统的select实现,所以它并没有最大连接句柄1024/2048的限制·,这也意味着只需要一个线程负责Seclector的轮询,就可以接入成千上万的客户端,这是个很大的进行。

      • 实现步骤

        • 打开iServerSocketChannel 用于监听客户端的连接,它是所有客户端连接的父管道

          ServerSocketChannel server = ServerSocketChannel.open();

        • 绑定监听端口,设置连接为非阻塞模式

          server.bind(new InetSocketAddress(this.port));

          server.configureBlocking(false);

        • 创建Reactor线程,创建多路复用器并启动线程

          Selector selector = Selector.open();

        • 将ServerSocketChannel注册到Reactor线程的多路复用器Seclector上,监听ACCEPT事件

          server.register(selector, SelectionKey.OP_ACCEPT);

        • 多路复用器在线程run方法的无限循环体内轮询准备就绪的Key

          while (true) {
              //大堂经理再叫号
              selector.select();
              //每次都拿到所有的号子
              Set<SelectionKey> keys = selector.selectedKeys();
              Iterator<SelectionKey> iter = keys.iterator();
              //不断地迭代,就叫轮询
              //同步体现在这里,因为每次只能拿一个key,每次只能处理一种状态
              while (iter.hasNext()) {
                  SelectionKey key = iter.next();
                  iter.remove();
                  //每一个key代表一种状态
                  //没一个号对应一个业务
                  //数据就绪、数据可读、数据可写 等等等等
                  process(key);
              }
          }
      • 多路复用器监听到有新的客户端接入,处理新的接入请求,完成TCP三次握手,建立物理链路;设置客户端链路为非阻塞模式;将新接入的客户端连接注册到Reactor线程的多路复用器上,监听读操作,用来读取客户端发送的网络信息

      • if (key.isAcceptable()) {
            ServerSocketChannel server = (ServerSocketChannel) key.channel();
            //这个方法体现非阻塞,不管你数据有没有准备好
            //你给我一个状态和反馈
            SocketChannel channel = server.accept();
            //一定一定要记得设置为非阻塞
            channel.configureBlocking(false);
            //当数据准备就绪的时候,将状态改为可读
            key = channel.register(selector, SelectionKey.OP_READ);
        }
      • 异步读取客户端请求信息到缓冲区

        ​
            //具体办业务的方法,坐班柜员
            //每一次轮询就是调用一次process方法,而每一次调用,只能干一件事
            //在同一时间点,只能干一件事
            // 每个都会跑完,每给都走不同的逻辑,就是不阻塞,然后线程可以去跑其他的,这就是不阻塞
            private void process(SelectionKey key) throws IOException {
                //针对于每一种状态给一个反应
                // 是否就绪,
                if (key.isAcceptable()) {
                    ServerSocketChannel server = (ServerSocketChannel) key.channel();
                    //这个方法体现非阻塞,不管你数据有没有准备好
                    //你给我一个状态和反馈
                    SocketChannel channel = server.accept();
                    //一定一定要记得设置为非阻塞
                    channel.configureBlocking(false);
                    //当数据准备就绪的时候,将状态改为可读
                    key = channel.register(selector, SelectionKey.OP_READ);
                }
                // 是否可读
                else if (key.isReadable()) {
                    //key.channel 从多路复用器中拿到客户端的引用
                    SocketChannel channel = (SocketChannel) key.channel();
                    int len = channel.read(buffer);
                    if (len > 0) {
                        //
                        buffer.flip();
                        String content = new String(buffer.array(), 0, len);
                        key = channel.register(selector, SelectionKey.OP_WRITE);
                        //在key上携带一个附件,一会再写出去
                        key.attach(content);
                        System.out.println("读取内容:" + content);
                    }
                    // 是否可写
                } else if (key.isWritable()) {
                    SocketChannel channel = (SocketChannel) key.channel();
                    String content = (String) key.attachment();
                    channel.write(ByteBuffer.wrap(("输出:" + content).getBytes()));
        ​
                    channel.close();
                }
            }

         

    • 优点:

      • 客户端发起的连接操作是异步的,可以通过在多路复用器注册OP_CINNECT等待后续结果,不需要像之前的客户端那样被同步阻塞

      • SocketChannel的读写操作是异步的,如果没有可读写的数据它不会同步等待,直接返回,这样I/O通信线程就可以处理其他链路,

  • 基于NIO2.0的异步非阻塞(AIO)编程

    • 以后加

  • 为什么要使用NIO编程

    • 异步非阻塞

      • JDK 1.7 2002年 提供的NIO2 新增了异步的套接字通道,才是真正的异步I/O,在异步I/O操作的时候,可以传递信号变量,当操作完之后,会回调相关的方法

      • JDK1.4 提供的NIO 实际上只能被称为非阻塞I/O,不能叫异步非阻塞

    • 多路复用器

      • 多路复用的核心,是通过Selector不断地轮询注册在其上的Channel,如果某个Channel上面有新的TCP连接接入,读和写实际,这个Channel就处于就绪状态,会被Seclettor轮询出来,然后通过SelectionKEy,获取就绪的Channel的集合,然后进行后续的I/O操作

    • 伪异步I/O

      • 线程池处理,为了处理Tomcat通信线程同步I/O导致业务线程被挂住的问题

  • 为什么选择Netty

    • 因为Netty是NIO的升级版本,这叫好事者,自己写太难了,

    • API使用简单,门槛低

    • 功能强大,预置了多种编解码功能,支持多种主流协议

    • 性能高

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值