内存分配原理

前言（设计思想）

• 内存分配算法是采用Google的TCMalloc算法，每个线程都会自行维护一个独立的内存池，进行内存分配时优先从该内存池中分配，当内存池不足时才会向加锁的全局内存池申请，减少系统调用并且避免不同线程对全局内存池的锁竞争。
• 把内存切分的非常的细小，分为多级管理，以降低锁的粒度。
• 回收对象内存时，并没有将其真正释放掉，只是放回预先分配的大块内存中，以便复用。只有内存闲置过多的时候，才会尝试归还部分内存给操作系统，降低整体开销。

分配组件

Go的内存管理组件主要有：mspan(内存管理单元)、mcache(线程缓存)、mcentral（中心缓存） 和mheap（页堆）

span

span是用于管理arena页的关键数据结构，每个span中包含1个或多个连续页，为了满足小对象分配，span中的一页会划分更小的粒度，而对于大对象比如超过页大小，则通过多页实现。

class

根据对象大小，划分了一系列class，每个class都代表一个固定大小的对象，以及每个span的大小。如下表所示：

• class： class ID，每个span结构中都有一个class ID, 表示该span可处理的对象类型
• bytes/obj：该class代表对象的字节数
• bytes/span：每个span占用堆的字节数，也即页数*页大小
• objects:每个span可分配的对象个数，也即（bytes/spans）/（bytes/obj）
• waste bytes:每个span产生的内存碎片，也即（bytes/spans）%（bytes/obj）

上表可见最大的对象是32K大小，超过32K大小的由特殊的class表示，该class ID为0，每个class只包含一个对象。

1.mspan

mspan是内存管理的基本单元，该结构体中包含next和prev两个字段，他们分别指向了前一个和后一个mspan，每个mspan都管理npages个大小为8KB的页，一个span是由多个page组成的，这里的页不是操作系统中的内存页，他们是操作系统内存页的整数倍。
page是内存存储的基本单元，“对象”放到page中。

type mspan struct {
    next *mspan            //链表前向指针，用于将span链接起来
    prev *mspan            //链表前向指针，用于将span链接起来
    startAddr uintptr // 起始地址，也即所管理页的地址
    npages    uintptr // 管理的页数

    nelems uintptr // 块个数，也即有多少个块可供分配

    allocBits  *gcBits //分配位图，每一位代表一个块是否已分配

    allocCount  uint16     // 已分配块的个数
    spanclass   spanClass  // class表中的class ID

    elemsize    uintptr    // class表中的对象大小，也即块大小
}

2.mcache

有了管理内存的基本单位span，还要有个数据结构来管理span，这个数据结构叫mcentral，各线程需要内存时从mcentral管理的span中申请内存，为了避免多线程申请内存时不断地加锁，Golang为每个线程分配了span的缓存，这个缓存即是cache。

type mcache struct {
    alloc [67*2]*mspan // 按class分组的mspan列表
}

• alloc为mspan的指针数组，数组大小为class总数的2倍。数组中每个元素代表了一种class类型的span列表，每种class类型都有两组span列表，第一组列表中所表示的对象中包含了指针，第二组列表中所表示的对象不含有指针，这么做是为了提高GC扫描性能，对于不包含指针的span列表，没必要去扫描。
• 根据对象是否包含指针，将对象分为noscan和scan两类，其中noscan代表没有指针，而scan则代表有指针，需要GC进行扫描。

3.mcentral

cache作为线程的私有资源为单个线程服务，而central则是全局资源，为多个线程服务，当某个线程内存不足时会向central申请，当某个线程释放内存时又会回收进central。

type mcentral struct {
    lock      mutex     //互斥锁
    spanclass spanClass // span class ID
    nonempty  mSpanList // non-empty 指还有空闲块的span列表
    empty     mSpanList // 指没有空闲块的span列表

    nmalloc uint64      // 已累计分配的对象个数
}

• lock: 线程间互斥锁，防止多线程读写冲突
• spanclass : 每个mcentral管理着一组有相同class的span列表
• nonempty: 指还有内存可用的span列表
• empty: 指没有内存可用的span列表
• nmalloc: 指累计分配的对象个数

线程从central获取span步骤如下：

1.加锁
2.从nonempty列表获取一个可用span，并将其从链表中删除
3.将取出的span放入empty链表
4.将span返回给线程
5.解锁
6.线程将该span缓存进cache
线程将span归还步骤如下：
1.加锁
2.将span从empty列表删除
3.将span加入noneempty列表
4.解锁

4.mheap

从mcentral数据结构可见，每个mcentral对象只管理特定的class规格的span。事实上每种class都会对应一个mcentral,这个mcentral的集合存放于mheap数据结构中。

type mheap struct {
    lock      mutex

    spans []*mspan

    bitmap        uintptr     //指向bitmap首地址，bitmap是从高地址向低地址增长的

    arena_start uintptr        //指示arena区首地址
    arena_used  uintptr        //指示arena区已使用地址位置

    central [67*2]struct {
        mcentral mcentral
        pad      [sys.CacheLineSize - unsafe.Sizeof(mcentral{})%sys.CacheLineSize]byte
    }
}

• lock： 互斥锁
• spans: 指向spans区域，用于映射span和page的关系
• bitmap：bitmap的起始地址
• arena_start: arena区域首地址
• arena_used: 当前arena已使用区域的最大地址
• central: 每种class对应的两个mcentral
  总结：从数据结构可见，mheap管理着全部的内存，事实上Golang就是通过一个mheap类型的全局变量进行内存管理的。

内存分配过程

针对待分配对象的大小不同有不同的分配逻辑：

• (0, 16B) 且不包含指针的对象： Tiny分配
• (0, 16B) 包含指针的对象：正常分配
• [16B, 32KB] : 正常分配
• (32KB, -) : 大对象分配
  其中Tiny分配和大对象分配都属于内存管理的优化范畴，这里暂时仅关注一般的分配方法。

以申请size为n的内存为例，分配步骤如下：
1.获取当前线程的私有缓存mcache
2.根据size计算出适合的class的ID
3.从mcache的alloc[class]链表中查询可用的span
4.如果mcache没有可用的span则从mcentral申请一个新的span加入mcache中
5.如果mcentral中也没有可用的span则从mheap中申请一个新的span加入mcentral
6.从该span中获取到空闲对象地址并返回

总结：一句话概括go的内存分配机制就是用了4中内存管理组件和内存分配算法来以空间换取时间。