Netty零拷贝&解决空轮询

首先了解一下直接内存

直接内存

       直接内存（Direct Memory）并不是虚拟机运行时数据区的一部分，也不是Java虚拟机规范中定义的内存区域，某些情况下这部分内存也会被频繁地使用，而且也可能导致OutOfMemoryError异常出现。Java里用DirectByteBuffer可以分配一块直接内存(堆外内存)，元空间对应的内存也叫作直接内存，它们对应的都是机器的物理内存。

直接内存分配源码分析：

public static ByteBuffer allocateDirect(int capacity) {

    return new DirectByteBuffer(capacity);

}

DirectByteBuffer(int cap) {                   // package-private

    super(-1, 0, cap, cap);

    boolean pa = VM.isDirectMemoryPageAligned();

    int ps = Bits.pageSize();

    long size = Math.max(1L, (long)cap + (pa ? ps : 0));

    //判断是否有足够的直接内存空间分配，可通过-XX:MaxDirectMemorySize=<size>参数指定直接内存最大可分配空间，如果不指定默认为最大堆内存大小，

    //在分配直接内存时如果发现空间不够会显示调用System.gc()触发一次full gc回收掉一部分无用的直接内存的引用对象，同时直接内存也会被释放掉

    //如果释放完分配空间还是不够会抛出异常java.lang.OutOfMemoryError

   Bits.reserveMemory(size, cap);

    long base = 0;

    try {

        // 调用unsafe本地方法分配直接内存

        base = unsafe.allocateMemory(size);

    } catch (OutOfMemoryError x) {

        // 分配失败，释放内存

        Bits.unreserveMemory(size, cap);

        throw x;

    }

    unsafe.setMemory(base, size, (byte) 0);

    if (pa && (base % ps != 0)) {

        // Round up to page boundary

        address = base + ps - (base & (ps - 1));

    } else {

        address = base;

    }

    // 使用Cleaner机制注册内存回收处理函数，当直接内存引用对象被GC清理掉时，

    // 会提前调用这里注册的释放直接内存的Deallocator线程对象的run方法

    cleaner = Cleaner.create(this, new Deallocator(base, size, cap));

    att = null;

}

// 申请一块本地内存。内存空间是未初始化的，其内容是无法预期的。

// 使用freeMemory释放内存，使用reallocateMemory修改内存大小

public native long allocateMemory(long bytes);

// openjdk8/hotspot/src/share/vm/prims/unsafe.cpp

UNSAFE_ENTRY(jlong, Unsafe_AllocateMemory(JNIEnv *env, jobject unsafe, jlong size))

  UnsafeWrapper("Unsafe_AllocateMemory");

  size_t sz = (size_t)size;

  if (sz != (julong)size || size < 0) {

    THROW_0(vmSymbols::java_lang_IllegalArgumentException());

  }

  if (sz == 0) {

    return 0;

  }

  sz = round_to(sz, HeapWordSize);

  // 调用os::malloc申请内存，内部使用malloc这个C标准库的函数申请内存

  void* x = os::malloc(sz, mtInternal);

  if (x == NULL) {

    THROW_0(vmSymbols::java_lang_OutOfMemoryError());

  }

  //Copy::fill_to_words((HeapWord*)x, sz / HeapWordSize);

      return addr_to_java(x);

UNSAFE_END

使用直接内存的优缺点：

优点：

GC的可能虚拟机实现上，本地IO会直接操作直接内存（直接内存=>系统调用=>硬盘/网卡），而非直接内存则需要二次拷贝（堆内存=>直接内存=>系统调用=>硬盘/网卡）

缺点：

JVM直接帮助管理内存，容易发生内存溢出。为了避免一直没有FULL GC，最终导致直接内存把物理内存耗完。我们可以指定直接内存的最大值，通过-XX：MaxDirectMemorySize来指定，当达到阈值的时候，调用system.gc来进行一次FULL GC，间接把那些没有被使用的直接内存回收掉。

Netty零拷贝

 

模型图讲解：

客户端发送数据给服务端，首先发到socket缓冲区（内核空间），然后拷贝到直接内存（内核空间），然后拷贝到jvm堆内存（用户空间）；服务端返回数据，首先拷贝到直接内存（内核空间），然后拷贝到socket缓冲区（内核空间），最后返回给客户端，一共四次拷贝。

零拷贝：客户端发送数据给服务端，首先发到socket缓冲区（内核空间），然后拷贝到直接内存（内核空间）就结束了（因为数据是放在直接内存里面的，jvm内存只存储了地址，通过地址操作直接内存的数据）；服务端返回数据，直接从直接内存拷贝到socket缓冲区，最后返回给客户端。

Netty的接收和发送ByteBuf采用DIRECT BUFFERS，使用堆外直接内存进行Socket读写，不需要进行字节缓冲区的二次拷贝。

如果使用传统的JVM堆内存（HEAP BUFFERS）进行Socket读写，JVM会将堆内存Buffer拷贝一份到直接内存中，然后才能写入Socket中。JVM堆内存的数据是不能直接写入Socket中的。相比于堆外直接内存，消息在发送过程中多了一次缓冲区的内存拷贝。

 

Netty解决Nio空轮询bug

Netty解决：每一次执行select，然后selectcnt++，当空轮询到512次，就会重新构建selector(selectRebuildSelector(selectCnt)，即创建一个新的selector替换之前的selector(为了解决epoll100%cpubug)。