dlmalloc 简析

最新推荐文章于 2024-03-16 09:41:29 发布

sky-Z

最新推荐文章于 2024-03-16 09:41:29 发布

阅读量3.4k

点赞数

分类专栏： android system 文章标签： c 内存 bionic dlmalloc 内存管理

本文链接：https://blog.csdn.net/YKDSea/article/details/38519339

版权

android system 专栏收录该内容

5 篇文章 0 订阅

订阅专栏

******************************************************************
By Sky
http://blog.csdn.net/ykdsea/
******************************************************************

本文基于android 4.4所用的dlmalloc版本进行分析。

malloc/free work flow

malloc/free是libc库提供的函数，主要是用户层的操作，而不是内核的系统调用。
一般的heap管理是通过sbrk或者mmap函数来向系统获取大量的内存（只是虚拟的内存地址），然后由特定的heap管理算法来管理用户程序申请/释放内存（比如dlmalloc）。有一点注意，brk/sbrk获取的只是虚拟地址，当这些地址被访问的时候，才会产生page fault，真实的物理内存才会被分配出来。

Free的时候，内存也只是返还给内存管理程序了，而不是直接返还给系统。当内存管理程序发现保留了过多的内存的时候，可以通过umap或者brk/sbrk来把内存还给系统。

mmap的使用：
一般情况下，系统是使用brk/sbrk来扩展可用内存的。在某些特殊情况下，会考虑使用mmap来直接申请对应的内存，这个做法可以减少内存中空洞存在，他的缺点是速度比较慢。
在dlmalloc中，是在查找没有可用的free chunk的时候，并且分配的size大于一定的值的时候，会使用mmap直接分配。

dlmalloc

android中采用的dlmalloc为默认的heap管理算法。
dlmalloc的介绍说明：http://gee.cs.oswego.edu/dl/html/malloc.html

dlmalloc的配置：(基于android 4.4的code)
dlmalloc中有配置选项来适应不同的使用环境。
USE_LOCKS：是否使用lock，在多线程使用环境下需要考虑enable，如果外部已经有所就不需要了。
HAVE_MMAP：系统是否支持mmap。
USE_DL_PREFIX：是否需要提供dl相关的接口。
MSPACES：是否需要提供mspace相关的接口。
ONLY_MSPACES：是否只提供mspace相关的接口。
DEFAULT_MMAP_THRESHOLD：使用mmap进行分配的阀值。

dlmalloc的管理策略：
Boundary Tags （边界标记）
在分配的chunk的头部和尾部都记录了当前chunk的size。
这样有两个好处：
1)从任意一个chunk都可以访问前一个/后一个chunk。
2)方便相邻的两个chunk合并为一个大的chunk。

Binning （分箱）
binning是按照byte size来分的，低于256 bytes的chunk，以8为增量，分为8,16,24...256bytes来分箱，每个bin中所有的free chunk用链表来组织。
大于256 bytes的chunk，是用tree来维护free chunk的（同时配合使用了链表）。
分箱的好处是：
浪费少量内存，来达到快速分配的目的。在分配的时候，可以直接找到对应的bin来拿到free chunk。

关键的数据结构理解

malloc_chunk

struct malloc_chunk {
  size_t prev_foot; /* Size of previous chunk (if free). */
  size_t head; /* Size and inuse bits. */
  struct malloc_chunk* fd; /* double links -- used only if free. */
  struct malloc_chunk* bk;
};

prev_foot
prev_foot是记录前一个chunk的size，但是这个成员的设置并不是在当前的chunk建立的时候去做的。
在使用的时候，当某个chunk被申请了，他会使用
#define set_foot(p, s) (((mchunkptr)((char*)(p) + (s)))->prev_foot = (s))
在他的data后面设定他的size，他实际操作的是下一个chunk的prev_root的值。
这个和http://gee.cs.oswego.edu/dl/html/malloc.html里面的图示也是一致的，在头部和尾部保留了当前chunk的size。

这边有疑问：为什么前一个chunk的尾部一定后一个chunk的头部？
1，申请内存的时候，是按照8bytes为界分配的(包括额外的信息)。
2，因为采用分箱的策略，分配的时候，总是从大的chunk分裂出小的chunk出来的，所以可以保证不会存在
不能使用的memory hole在内存中。
这两点保证所有的chunk是连续在一起的，而且可以直接合并，在合并之后他们的字节数还是8 bytes为界的。

head
head中记录了当前chunk的状态，还有size。
状态占用低3个bit（因为chunk为8bytes倍数，所以低3位一直是0的）。

fd和bk
fd是forward pointer，bk是backward pointer，他们是构成Free list的时候指向前一个和后一个free chunk用的。
需要注意的时候，他们只在free chunk中使用，而在used chunk中不需要使用，所以没有为他们分配分配内存，是直接使用了
free chunk中user data部分的内存。

malloc_state

struct malloc_state {
  binmap_t smallmap;
  binmap_t treemap;
  size_t dvsize;
  size_t topsize;
  char* least_addr;
  mchunkptr dv;
  mchunkptr top;
  size_t trim_check;
  size_t release_checks;
  size_t magic;
  mchunkptr smallbins[(NSMALLBINS+1)*2];
  tbinptr treebins[NTREEBINS];
  size_t footprint;
  size_t max_footprint;
  size_t footprint_limit; /* zero means no limit */
  flag_t mflags;
#if USE_LOCKS
  MLOCK_T mutex; /* locate lock among fields that rarely change */
#endif /* USE_LOCKS */
  msegment seg;
  void* extp; /* Unused but available for extensions */
  size_t exts;
};

malloc_state是整个malloc全局的信息的保存。下面看看几个关键的成员变量。

mchunkptr smallbins[(NSMALLBINS+1)*2]
smallbins是对于small chunk的分箱（即小于256 bytes的chunk的bins）。smallbins对每个bin都构造了一个双向的链表，free的chunk link在当前的
bin中。

smallbins的长度(NSMALLBINS+1)*2是如何来的？
smallbins主要是构造一个双向链表，里面只需要保存两个pointer就可以实现了，所以他实际需要的是NSMALLBINS*2的大小即可。
同时dlmalloc中为了使用方便（并且统一）所以使用mallochunk结构中的fd和bk来指向chunk，所以在在数组头部pad了sizeof(prev_foot)+sizeof(head)=2个pointer的宽度。
这样就得到了NSMALLBINS*2+2 = (NSMALLBINS+1)*2的数组宽度了。

如何计算对应的bin index？
small bins是以8 bytes为间隔区分的，所以申请的size >> 3，就可以得到与之对应的bin index。
对应的宏是：#define smallbin_at(M, i) ((sbinptr)((void*)&((M)->smallbins[(i)<<1])))

tbinptr treebins[NTREEBINS]
treebins是对于大于256 bytes的chunk的bins。关于treebins可以参考文章：http://blog.sina.com.cn/s/blog_5674d18801019x0f.html
treebins中每个bin是用tree来管理的，所以只需要一个pointer来指向tree的root即可。

smallbins很简单以8bytes为step去分箱，那对于treebins是如何做的？
从code里面可以看到从malloc size计算出bin的方法如下

#define compute_tree_index(S, I)\
{\
  unsigned int X = S >> TREEBIN_SHIFT;\
  if (X == 0)\
    I = 0;\
  else if (X > 0xFFFF)\
    I = NTREEBINS-1;\
  else {\
    unsigned int K = (unsigned) sizeof(X)*__CHAR_BIT__ - 1 - (unsigned) __builtin_clz(X); \
    I = (bindex_t)((K << 1) + ((S >> (K + (TREEBIN_SHIFT-1)) & 1)));\
  }\
}

idx的划分主要是考虑0x100 ~ 0xFFFF00这段size如何被划分到0 ~ 30 index的bin中去的。
第一行K的运算中，__builtin_clz(X)先计算出了1之前有多少个0，然后用32 - 1去减，计算得到了最高位1之后的位数，注意这个是右移8位之后的计算结果，K + TREEBIN_SHIFT才是原始size的最高位1之后的位数。
第二行的运算中，K<<1,首先是按照最高位的offset（0 ~ 15）cast到（0~30），而((S >> (K + (TREEBIN_SHIFT-1)) & 1))，这一步实际检查最高位1的低1位是0还是1。

这样看就很清楚了，实际是根据最高位1之后的位数先把数值分成了15份，然后再把每一份一份为2，得到了最终0~30的映射。
如0x1000，最高位1后面的位数是4，得到它的idx范围是8~9,又因为低1位为0，所以他对应的idx就是8.

每个bin当中的tree是如何组织的？
分析宏

/* Insert chunk into tree */
#define insert_large_chunk(M, X, S) {\
  tbinptr* H;\
  bindex_t I;\
  compute_tree_index(S, I);\
  H = treebin_at(M, I);\
  X->index = I;\
  X->child[0] = X->child[1] = 0;\
  if (!treemap_is_marked(M, I)) {\
    mark_treemap(M, I);\
    *H = X;\
    X->parent = (tchunkptr)H;\
    X->fd = X->bk = X;\
  }\
  else {\
    tchunkptr T = *H;\
    size_t K = S << leftshift_for_tree_index(I);\
    for (;;) {\
      if (chunksize(T) != S) {\
        tchunkptr* C = &(T->child[(K >> (SIZE_T_BITSIZE-SIZE_T_ONE)) & 1]);\
        K <<= 1;\
        if (*C != 0)\
          T = *C;\
        else if (RTCHECK(ok_address(M, C))) {\
          *C = X;\
          X->parent = T;\
          X->fd = X->bk = X;\
          break;\
        }\
        else {\
          CORRUPTION_ERROR_ACTION(M);\
          break;\
        }\
      }\
      else {\
        tchunkptr F = T->fd;\
        if (RTCHECK(ok_address(M, T) && ok_address(M, F))) {\
          T->fd = F->bk = X;\
          X->fd = F;\
          X->bk = T;\
          X->parent = 0;\
          break;\
        }\
        else {\
          CORRUPTION_ERROR_ACTION(M);\
          break;\
        }\
      }\
    }\
  }\
}

从代码中可以看出插入节点的时候，
1，如果当前tree节点值和插入的一致，那么把这个节点插入到当前tree节点的链表中去。
2，如果不相等，除去最高两位的节点，检测之后每个bit是0还是1，来确认是选择节点的left child还是right child。
这样的策略，保证了对于任意一个节点，他的左子树上的节点值总是小于右子树上的值的。但是对于某个节点来说，他和他子树上节点的关系，只是保证不相等，不能保证一定大于或者小于他的子树的值。策略和trie tree类似了，但是又有一些差异。

find算法是怎么样的？
知道了insert的逻辑，那么find就比较好理解了。主要需要注意的是节点和子树的关系是不确定的，在find的时候，需要做比较。

smallmap和treemap
binmap_t是一个32bit的unsigned log，他的每个bit对应分箱策略中某个箱子是否有有效的chunk包含在内，这样主要是为了方便在分配的时候，快速查找到有效的bin。
smallmap对应着smallbins的每个bin的状态。
treemap对应着treebins的每个bin的状态。