面试重点-零拷贝

静惘

已于 2023-08-24 15:50:29 修改

阅读量267

点赞数 1

分类专栏：面试重点文章标签：面试 java 服务器

于 2022-07-01 16:06:01 首次发布

本文链接：https://blog.csdn.net/xdx_dili/article/details/125560595

版权

面试重点专栏收录该内容

1 篇文章 0 订阅

订阅专栏

1、什么是零拷贝？

零拷贝是指计算机执行IO操作时，CPU不需要将数据从一个存储区域复制到另一个存储区域，从而可以减少上下文切换以及CPU的拷贝时间。它是一种I/O操作优化技术。

拷贝： 就是指数据从一个存储区域转移到另一个存储区域。
零： 表示次数为0，它表示拷贝数据的次数为0。

2、内核空间和用户空间

我们电脑上跑着的应用程序，其实是需要经过操作系统，才能做一些特殊操作，如磁盘文件读写、内存的读写等等。因为这些都是比较危险的操作，不可以由应用程序乱来，只能交给底层操作系统来。
因此，操作系统为每个进程都分配了内存空间，一部分是用户空间，一部分是内核空间。内核空间是操作系统内核访问的区域，是受保护的内存空间，而用户空间是用户应用程序访问的内存区域。以32位操作系统为例，它会为每一个进程都分配了4G(2的32次方)的内存空间。

内核空间： 主要提供进程调度、内存分配、连接硬件资源等功能
用户空间： 提供给各个程序进程的空间，它不具有访问内核空间资源的权限，如果应用程序需要使用到内核空间的资源，则需要通过系统调用来完成。进程从用户空间切换到内核空间，完成相关操作后，再从内核空间切换回用户空间。

3、用户态和内核态

内核态： 进程运行于内核空间；
用户态： 进程运行于用户空间。

4、CPU

4.1、什么是CPU上下文

CPU 寄存器，是CPU内置的容量小、但速度极快的内存。而程序计数器，则是用来存储 CPU 正在执行的指令位置、或者即将执行的下一条指令位置。它们都是 CPU 在运行任何任务前，必须的依赖环境，因此叫做CPU上下文。

4.2、什么是CPU上下文切换

它是指，先把前一个任务的CPU上下文（也就是**CPU寄存器和程序计数器**）保存起来，然后加载新任务的上下文到这些寄存器和程序计数器，最后再跳转到程序计数器所指的新位置，运行新任务。

5、虚拟内存

现代操作系统使用虚拟内存，即虚拟地址取代物理地址，使用虚拟内存可以有2个好处：

虚拟内存空间可以远远大于物理内存空间
多个虚拟内存可以指向同一个物理地址
正是多个虚拟内存可以指向同一个物理地址，可以把内核空间和用户空间的虚拟地址映射到同一个物理地址，这样的话，就可以减少IO的数据拷贝次数啦，示意图如下：

6、DMA技术

DMA（Direct Memory Access），即直接内存访问。DMA本质上是一块主板上独立的芯片，允许外设设备和内存存储器之间直接进行IO数据传输，其过程不需要CPU的参与。

用户应用进程调用read函数，向操作系统发起IO调用，进入阻塞状态，等待数据返回。
CPU收到指令后，对DMA控制器发起指令调度。
DMA收到IO请求后，将请求发送给磁盘；
磁盘将数据放入磁盘控制缓冲区，并通知DMA；
DMA将数据从磁盘控制器缓冲区拷贝到内核缓冲区；
DMA向CPU发出数据读完的信号，把工作交换给CPU，由CPU负责将数据从内核缓冲区拷贝到用户缓冲区；
用户应用进程由内核态切换回用户态，解除阻塞状态。

为什么要使用DMA技术？

主要就是效率，它帮忙CPU做事情，这时候，CPU就可以闲下来去做别的事情，提高了CPU的利用效率。大白话解释就是，CPU老哥太忙太累啦，所以他找了个小弟（名叫DMA），替他完成一部分的拷贝工作，这样CPU老哥就能着手去做其他事情。

7、传统IO执行流程

传统的IO流程，包括read和write的过程。

read： 把数据从磁盘读取到内核缓冲区，再拷贝到用户缓冲区；
write： 先把数据写入到socket缓冲区，最后写入网卡设备。
用户应用进程调用read函数，向操作系统发起IO调用，上下文从用户态转为内核态（切换1）
DMA控制器把数据从磁盘中，读取到内核缓冲区。
CPU把内核缓冲区数据，拷贝到用户应用缓冲区，上下文从内核态转为用户态（切换2），read函数返回；
用户应用进程通过write函数，发起IO调用，上下文从用户态转为内核态（切换3）；
CPU将用户缓冲区中的数据，拷贝到socket缓冲区；
DMA控制器把数据从socket缓冲区，拷贝到网卡设备，上下文从内核态切换回用户态（切换4），write函数返回；
从流程图可以看出，传统IO的读写流程，包括了4次上下文切换（4次用户态和内核态的切换），4次数据拷贝（两次CPU拷贝以及两次的DMA拷贝)。

8、零拷贝实现的几种方式？

零拷贝并不是没有拷贝数据，而是减少用户态/内核态的切换次数以及CPU拷贝的次数。零拷贝实现有多种方式，分别是

mmap+write
sendfile
带有DMA收集拷贝功能的sendfile

9、mmap+write

mmap利用虚拟内存，将内核空间和用户空间的虚拟地址映射到同一个物理地址，从而减少数据拷贝次数。mmap用了虚拟内存这个特点，它将内核中的读缓冲区与用户空间的缓冲区进行映射，所有的IO都在内核中完成。

9.1、mmap的函数原型

void *mmap(void *addr, size_t length, int prot, int flags, int fd, off_t offset);

addr： 指定映射的虚拟内存地址；
length： 映射的长度；
prot： 映射内存的保护模式；
flags： 指定映射的类型；
fd： 进行映射的文件句柄；
offset: 文件偏移量。

9.2、mmap+write实现的零拷贝流程：

用户进程通过mmap方法向操作系统内核发起IO调用，上下文从用户态切换为内核态；
CPU利用DMA控制器，把数据从硬盘中拷贝到内核缓冲区；
上下文从内核态切换回用户态，mmap方法返回；
用户进程通过write方法向操作系统内核发起IO调用，上下文从用户态切换为内核态；
CPU将内核缓冲区的数据拷贝到的socket缓冲区；
CPU利用DMA控制器，把数据从socket缓冲区拷贝到网卡，上下文从内核态切换回用户态，write调用返回。

9.3、mmap+write实现的效果

mmap+write实现的零拷贝，I/O发生了4次用户空间与内核空间的上下文切换，以及3次数据拷贝。其中3次数据拷贝中，包括了2次DMA拷贝和1次CPU拷贝。
mmap是将读缓冲区的地址和用户缓冲区的地址进行映射，内核缓冲区和应用缓冲区共享，所以节省了一次CPU拷贝并且用户进程内存是虚拟的，只是映射到内核的读缓冲区，可以节省一半的内存空间。

10、sendfile实现的零拷贝

sendfile表示在两个文件描述符之间传输数据，它是在操作系统内核中操作的，避免了数据从内核缓冲区和用户缓冲区之间的拷贝操作，因此可以使用它来实现零拷贝。

10.1、sendfile的函数原型

ssize_t sendfile(int out_fd, int in_fd, off_t *offset, size_t count);

out_fd： 为待写入内容的文件描述符，一个socket描述符；
in_fd： 为待读出内容的文件描述符，必须是真实的文件，不能是socket和管道；
offset： 指定从读入文件的哪个位置开始读，如果为NULL，表示文件的默认起始位置；
count： 指定在fdout和fdin之间传输的字节数。

10.2、sendfile实现零拷贝的流程

用户进程发起sendfile系统调用，上下文（切换1）从用户态转向内核态
DMA控制器，把数据从硬盘中拷贝到内核缓冲区；
CPU将读缓冲区中数据拷贝到socket缓冲区；
DMA控制器，异步把数据从socket缓冲区拷贝到网卡；
上下文（切换2）从内核态切换回用户态，sendfile调用返回。

10.3、sendfile实现的效果

sendfile实现的零拷贝，I/O发生了2次用户空间与内核空间的上下文切换，以及3次数据拷贝。其中3次数据拷贝中，包括了2次DMA拷贝和1次CPU拷贝。

11、sendfile+DMA scatter/gather实现的零拷贝

linux 2.4版本之后，对sendfile做了优化升级，引入SG-DMA技术，其实就是对DMA拷贝加入了scatter/gather操作，它可以直接从内核空间缓冲区中将数据读取到网卡。使用这个特点搞零拷贝，即还可以多省去一次CPU拷贝。

11.1、sendfile+DMA scatter/gather实现的零拷贝流程

用户进程发起sendfile系统调用，上下文（切换1）从用户态转向内核态；
DMA控制器，把数据从硬盘中拷贝到内核缓冲区；
CPU把内核缓冲区中的文件描述符信息（包括内核缓冲区的内存地址和偏移量）发送到socket缓冲区；
DMA控制器根据文件描述符信息，直接把数据从内核缓冲区拷贝到网卡；
上下文（切换2）从内核态切换回用户态，sendfile调用返回。

11.2、sendfile+DMA实现的效果

sendfile+DMA scatter/gather实现的零拷贝，I/O发生了2次用户空间与内核空间的上下文切换，以及2次数据拷贝。其中2次数据拷贝都是包DMA拷贝。这就是真正的零拷贝（Zero-copy) 技术，全程都没有通过CPU来搬运数据，所有的数据都是通过DMA来进行传输的。

12、scatter/gather DMA与传统的DMA的区别

“基础”零拷贝方式的时序图中，有一个write data to target socket buffer的回环，在框图中也有一个从Read buffer到Socket buffer的大箭头。这是因为在一般的Block DMA方式中，源物理地址和目标物理地址都得是连续的，所以一次只能传输物理上连续的一块数据，每传输一个块发起一次中断，直到传输完成，所以必须要在两个缓冲区之间拷贝数据。
Scatter/Gather DMA方式则不同，会预先维护一个物理上不连续的块描述符的链表，描述符中包含有数据的起始地址和长度。传输时只需要遍历链表，按序传输数据，全部完成后发起一次中断即可，效率比Block DMA要高。也就是说，硬件可以通过Scatter/Gather DMA直接从内核缓冲区中取得全部数据，不需要再从内核缓冲区向Socket缓冲区拷贝数据。

13、 java提供的零拷贝方式

Java NIO对mmap的支持
Java NIO对sendfile的支持

13.1、 Java NIO对mmap的支持

Java NIO有一个MappedByteBuffer的类，可以用来实现内存映射。它的底层是调用了Linux内核的mmap的API。

public class MmapTest {

    public static void main(String[] args) {
        try {
            FileChannel readChannel = FileChannel.open(Paths.get("./jay.txt"), StandardOpenOption.READ);
            MappedByteBuffer data = readChannel.map(FileChannel.MapMode.READ_ONLY, 0, 1024 * 1024 * 40);
            FileChannel writeChannel = FileChannel.open(Paths.get("./siting.txt"), StandardOpenOption.WRITE, StandardOpenOption.CREATE);
            //数据传输
            writeChannel.write(data);
            readChannel.close();
            writeChannel.close();
        }catch (Exception e){
            System.out.println(e.getMessage());
        }
    }
}

13.1、Java NIO对sendfile的支持

FileChannel的transferTo()/transferFrom()，底层就是sendfile() 系统调用函数。Kafka 这个开源项目就用到它，平时面试的时候，回答面试官为什么这么快，就可以提到零拷贝sendfile这个点。

public class SendFileTest {
    public static void main(String[] args) {
        try {
            FileChannel readChannel = FileChannel.open(Paths.get("./jay.txt"), StandardOpenOption.READ);
            long len = readChannel.size();
            long position = readChannel.position();
            
            FileChannel writeChannel = FileChannel.open(Paths.get("./siting.txt"), StandardOpenOption.WRITE, StandardOpenOption.CREATE);
            //数据传输
            readChannel.transferTo(position, len, writeChannel);
            readChannel.close();
            writeChannel.close();
        } catch (Exception e) {
            System.out.println(e.getMessage());
        }
    }
}