第六章 NIO与零拷贝

目录

零拷贝基本介绍

传统IO数据读写

NIO与零拷贝

传统IO

mmap 优化

sendFile 优化

零拷贝的再次理解

mmap 和 sendFile 的区别

NIO 零拷贝案例

传统IO模式

零拷贝方式

AIO

BIO、NIO、AIO对比

---

零拷贝基本介绍

• 零拷贝是网络编程的关键，很多性能优化都离不开。
• 在 Java 程序中，常用的零拷贝有 mmap(内存映射) 和 sendFile。那么，他们在 OS 里，到底是怎么样的一个的设计？我们分析 mmap 和 sendFile 这两个零拷贝
• 另外我们看下NIO 中如何使用零拷贝

传统IO数据读写

Java 传统 IO 和 网络编程的一段代码

File file = new File("test.txt");
RandomAccessFile raf = new RandomAccessFile(file, "rw");

byte[] arr = new byte[(int) file.length()];
raf.read(arr);

Socket socket = new ServerSocket(8080).accept();
socket.getOutputStream().write(arr);

NIO与零拷贝

传统IO

DMA: direct  memory access直接内存拷贝(不使用CPU)

mmap 优化

• mmap 通过内存映射，将文件映射到内核缓冲区，同时，用户空间可以共享内核空间的数据。这样，在进行网络传输时，就可以减少内核空间到用户控件的拷贝次数。如下图:

sendFile 优化

• Linux 2.1 版本 提供了 sendFile 函数，其基本原理如下：数据根本不经过用户态，直接从内核缓冲区进入到 Socket Buffer，同时，由于和用户态完全无关，就减少了一次上下文切换

提示：零拷贝是从操作系统角度考虑，是没有cpu 拷贝

• Linux 在 2.4 版本中，做了一些修改，避免了从内核缓冲区拷贝到 Socket buffer 的操作，直接拷贝到协议栈，从而再一次减少了数据拷贝。具体如下图和小结：

这里其实有 一次cpu 拷贝kernel buffer -> socket buffer

但是，拷贝的信息很少，比如lenght , offset , 消耗低，可以忽略

零拷贝的再次理解

1. 我们说零拷贝，是从操作系统的角度来说的。因为内核缓冲区之间，没有数据是重复的（只有 kernel buffer 有一份数据）。
2. 零拷贝不仅仅带来更少的数据复制，还能带来其他的性能优势，例如更少的上下文切换，更少的 CPU 缓存伪共享以及无 CPU 校验和计算。

mmap 和 sendFile 的区别

• mmap 适合小数据量读写，sendFile 适合大文件传输。
• mmap 需要 4 次上下文切换，3 次数据拷贝；sendFile 需要 3 次上下文切换，最少 2 次数据拷贝。
• sendFile 可以利用 DMA 方式，减少 CPU 拷贝，mmap 则不能（必须从内核拷贝到 Socket 缓冲区）。

NIO 零拷贝案例

案例要求：  

1. 使用传统的IO 方法传递一个大文件

2. 使用NIO 零拷贝方式传递(transferTo)一个大文件

3. 看看两种传递方式耗时时间分别是多少

传统IO模式

• Server

public class OldIOServer {
    public static void main(String[] args) throws IOException {
        ServerSocket serverSocket = new ServerSocket(7000);

        while(true){
            Socket socket = serverSocket.accept();
            DataInputStream dataInputStream = new DataInputStream(socket.getInputStream());
            try{
                byte[] bytes = new byte[4096];
                while(true){
                    int readCount = dataInputStream.read(bytes,0,bytes.length);
                    if(-1 == readCount){
                        break;
                    }
                }
            }catch (Exception ex){
                ex.printStackTrace();
            }
        }
    }
}

• client

public class OldIOClient {

    public static void main(String[] args) throws IOException {

        Socket socket = new Socket("localhost", 7000);
        String fileName = "mysql-connector-java-8.0.21.jar";
        FileInputStream fileInputStream = new FileInputStream(fileName);
        DataOutputStream dataOutputStream = new DataOutputStream(socket.getOutputStream());

        byte[] buffer = new byte[4096];
        long readCount;
        long total = 0;

        long startTime = System.currentTimeMillis();
        while ((readCount = fileInputStream.read(buffer)) >= 0) {
            total += readCount;
            dataOutputStream.write(buffer);
        }

        System.out.println("发送字节数：" + total + ",耗时：" + (System.currentTimeMillis() - startTime));
        dataOutputStream.close();
        socket.close();
        fileInputStream.close();
    }
}

  

零拷贝方式

• server

public class NewIOServer {

    public static void main(String[] args) {
        InetSocketAddress inetSocketAddress = new InetSocketAddress(7001);
        try {
            ServerSocketChannel serverSocketChannel = ServerSocketChannel.open();
            ServerSocket socket = serverSocketChannel.socket();
            socket.bind(inetSocketAddress);

            // 创建Buffer
            ByteBuffer byteBuffer = ByteBuffer.allocate(4096);

            while(true){
                SocketChannel socketChannel = serverSocketChannel.accept();
                int readCount = 0;
                while(-1 != readCount){
                    readCount = socketChannel.read(byteBuffer);
                    byteBuffer.rewind();// position = 0; mark 作废
                }
            }
        } catch (IOException exception) {
            exception.printStackTrace();
        }
    }
}

• client

public class NewIOClient {

    public static void main(String[] args) {
        try {
            SocketChannel socketChannel = SocketChannel.open();
            socketChannel.connect(new InetSocketAddress("localhost", 7001));
            String fileName = "mysql-connector-java-8.0.21.jar";
            // 得到一个文件channel
            FileChannel fileChannel = new FileInputStream(fileName).getChannel();

            // 准备发送
            long startTime = System.currentTimeMillis();
            // 在linux 下一个transferTo就可以完成传输
            // 但是在 windows 一次只能传输8M，可能需要多次传输
            // transferTo 底层使用到零拷贝
            long transferCount = fileChannel.transferTo(0, fileChannel.size(), socketChannel);

            System.out.println("发送的总字节数：" + transferCount + ",耗时：" + (System.currentTimeMillis() - startTime));

            // 关闭
            fileChannel.close();
        } catch (IOException exception) {
            exception.printStackTrace();
        }
    }
}

   

AIO

• JDK 7 引入了 Asynchronous I/O，即 AIO。在进行 I/O 编程中，常用到两种模式：Reactor和 Proactor。Java 的 NIO 就是 Reactor，当有事件触发时，服务器端得到通知，进行相应的处理
• AIO 即 NIO2.0，叫做异步不阻塞的 IO。AIO 引入异步通道的概念，采用了 Proactor 模式，简化了程序编写，有效的请求才启动线程，它的特点是先由操作系统完成后才通知服务端程序启动线程去处理，一般适用于连接数较多且连接时间较长的应用
• 目前 AIO 还没有广泛应用，Netty 也是基于NIO, 而不是AIO， 所以这里不在赘述，可以参考 <<Java新一代网络编程模型AIO原理及Linux系统AIO介绍>>  http://www.52im.net/thread-306-1-1.html  

BIO、NIO、AIO对比

	BIO	NIO	AIO
IO 模型	同步阻塞	同步非阻塞（多路复用）	异步非阻塞
编程难度	简单	复杂	复杂
可靠性	差	好	好
吞吐量	低	高	高

声明：内容来源于网络，目的是为了学习和技术交流，如有侵犯，请联系删除