常见的Linux内核中内存分配

转载 2016年06月13日 21:56:16

       1.原理说明


         Linux内核中采 用了一种同时适用于32位和64位系统的内 存分页模型,对于32位系统来说,两级页表足够用了,而在x86_64系 统中,用到了四级页表,如图2-1所示常见的Linux内核中内存分配 - leon - 我的奋斗四级页表分别为:

  * 页全局目录(Page Global Directory)

  * 页上级目录(Page Upper Directory)

  * 页中间目录(Page Middle Directory)

  * 页表(Page Table)

  页全局目录包含若干页上级目录的地址,页上级目录又依次包含若干页中间目录的地址,而页中间目录又包含若干页表的地址,每一个页表项指 向一个页框常见的Linux内核中内存分配 - leon - 我的奋斗Linux中采用4KB大小的 页框作为标准的内存分配单元常见的Linux内核中内存分配 - leon - 我的奋斗

  多级分页目录结构

  1.1.伙伴系统算法

  在实际应用中,经常需要分配一组连续的页框,而频繁地申请和释放不同大小的连续页框,必然导致在已分配页框的内存块中分散了许多小块的 空闲页框常见的Linux内核中内存分配 - leon - 我的奋斗这样,即使这些页框是空闲的,其他需要分配连续页框的应用也很难得到满足常见的Linux内核中内存分配 - leon - 我的奋斗

  为了避免出现这种情况,Linux内核中引入了伙伴系统算法(buddy system)常见的Linux内核中内存分配 - leon - 我的奋斗把所有的空闲页框分组为11个 块链表,每个块链表分别包含大小为1,2,4,8,16,32,64,128,256,512和1024个连续页框的页框块常见的Linux内核中内存分配 - leon - 我的奋斗最大可以申请1024个连 续页框,对应4MB大小的连续内存常见的Linux内核中内存分配 - leon - 我的奋斗每个页框块的第一个页框的物理地址是该块大小的整数倍常见的Linux内核中内存分配 - leon - 我的奋斗

  假设要申请一个256个页框的块,先从256个页框的链表中查找空闲块,如果没有,就去512个 页框的链表中找,找到了则将页框块分为2个256个 页框的块,一个分配给应用,另外一个移到256个页框的链表中常见的Linux内核中内存分配 - leon - 我的奋斗如果512个页框的链表中仍没有空闲块,继续向1024个页 框的链表查找,如果仍然没有,则返回错误常见的Linux内核中内存分配 - leon - 我的奋斗

  页框块在释放时,会主动将两个连续的页框块合并为一个较大的页框块常见的Linux内核中内存分配 - leon - 我的奋斗

  1.2.slab分 配器

  slab分配器源于 Solaris 2.4 的 分配算法,工作于物理内存页框分配器之上,管理特定大小对象的缓存,进行快速而高效的内存分配常见的Linux内核中内存分配 - leon - 我的奋斗

  slab分配器为每种使用的内核对象建立单独的缓冲区常见的Linux内核中内存分配 - leon - 我的奋斗Linux 内核已经采用了伙伴系统管理物理内存页框,因此 slab分配器直接工作于伙伴系 统之上常见的Linux内核中内存分配 - leon - 我的奋斗每种缓冲区由多个 slab 组成,每个 slab就是一组连续的物理内存页框,被划分成了固定数目的对象常见的Linux内核中内存分配 - leon - 我的奋斗根据对象大小的不同,缺省情况下一个 slab 最多可以由 1024个页框构成常见的Linux内核中内存分配 - leon - 我的奋斗出于对齐 等其它方面的要求,slab 中分配给对象的内存可能大于用户要求的对象实际大小,这会造成一定的 内存浪费常见的Linux内核中内存分配 - leon - 我的奋斗


2.常用内存分配函数

  2.1.__get_free_pages

  unsigned long __get_free_pages(gfp_t gfp_mask, unsigned int order)

  __get_free_pages函数是最原始的内存分配方式,直接从伙伴系统中获取原始页框,返回值为第一个页框的起始地址常见的Linux内核中内存分配 - leon - 我的奋斗__get_free_pages在实现上只是封装了alloc_pages函 数,从代码分析,alloc_pages函数会分配长度为1<<order的 连续页框块常见的Linux内核中内存分配 - leon - 我的奋斗order参数的最大值由include/Linux/Mmzone.h文 件中的MAX_ORDER宏决定,在默认的2.6.18内 核版本中,该宏定义为10常见的Linux内核中内存分配 - leon - 我的奋斗也就是说在理论上__get_free_pages函 数一次最多能申请1<<10 * 4KB也就是4MB的 连续物理内存常见的Linux内核中内存分配 - leon - 我的奋斗但是在实际应用中,很可能因为不存在这么大量的连续空闲页框而导致分配失败常见的Linux内核中内存分配 - leon - 我的奋斗测试中,order为10时分配成功,order为11则返回错误常见的Linux内核中内存分配 - leon - 我的奋斗

  2.2.kmem_cache_alloc

  struct kmem_cache *kmem_cache_create(const char *name, size_t size,

  size_t align, unsigned long flags,

  void (*ctor)(void*, struct kmem_cache *, unsigned long),

  void (*dtor)(void*, struct kmem_cache *, unsigned long))

  void *kmem_cache_alloc(struct kmem_cache *c, gfp_t flags)

  kmem_cache_create/ kmem_cache_alloc是基于slab分配器的一种内存分配方式,适用于反复分配释放同一大小内存块的场合常见的Linux内核中内存分配 - leon - 我的奋斗首先用kmem_cache_create创建一个高速缓存区域,然后用kmem_cache_alloc从 该高速缓存区域中获取新的内存块常见的Linux内核中内存分配 - leon - 我的奋斗 kmem_cache_alloc一次能分配的最大内存由mm/slab.c文件中的MAX_OBJ_ORDER宏 定义,在默认的2.6.18内核版本中,该宏定义为5, 于是一次最多能申请1<<5 * 4KB也就是128KB的 连续物理内存常见的Linux内核中内存分配 - leon - 我的奋斗分析内核源码发现,kmem_cache_create函数的size参数大于128KB时会调用BUG()常见的Linux内核中内存分配 - leon - 我的奋斗测试结果验证了分析结果,用kmem_cache_create分 配超过128KB的内存时使内核崩溃常见的Linux内核中内存分配 - leon - 我的奋斗

  2.3.kmalloc

  void *kmalloc(size_t size, gfp_t flags)

  kmalloc是内核中最常用的一种内存分配方式,它通过调用kmem_cache_alloc函 数来实现常见的Linux内核中内存分配 - leon - 我的奋斗kmalloc一次最多能申请的内存大小由include/Linux/Kmalloc_size.h的 内容来决定,在默认的2.6.18内核版本中,kmalloc一 次最多能申请大小为131702B也就是128KB字 节的连续物理内存常见的Linux内核中内存分配 - leon - 我的奋斗测试结果表明,如果试图用kmalloc函数分配大于128KB的内存,编译不能通过常见的Linux内核中内存分配 - leon - 我的奋斗

  2.4.vmalloc

  void *vmalloc(unsigned long size)

  前面几种内存分配方式都是物理连续的,能保证较低的平均访问时间常见的Linux内核中内存分配 - leon - 我的奋斗但是在某些场合中,对内存区的请求不是很频繁,较高的内存访问时间也 可以接受,这是就可以分配一段线性连续,物理不连续的地址,带来的好处是一次可以分配较大块的内存常见的Linux内核中内存分配 - leon - 我的奋斗图3-1表 示的是vmalloc分配的内存使用的地址范围常见的Linux内核中内存分配 - leon - 我的奋斗vmalloc对 一次能分配的内存大小没有明确限制常见的Linux内核中内存分配 - leon - 我的奋斗出于性能考虑,应谨慎使用vmalloc函数常见的Linux内核中内存分配 - leon - 我的奋斗在测试过程中, 最大能一次分配1GB的空间常见的Linux内核中内存分配 - leon - 我的奋斗

  Linux内核部分内存分布

  2.5.dma_alloc_coherent

  void *dma_alloc_coherent(struct device *dev, size_t size,

  ma_addr_t *dma_handle, gfp_t gfp)

  DMA是一种硬件机制,允许外围设备和主存之间直接传输IO数据,而不需要CPU的参与,使用DMA机制能大幅提高与设备通信的 吞吐量常见的Linux内核中内存分配 - leon - 我的奋斗DMA操作中,涉及到CPU高速缓 存和对应的内存数据一致性的问题,必须保证两者的数据一致,在x86_64体系结构中,硬件已经很 好的解决了这个问题, dma_alloc_coherent和__get_free_pages函数实现差别不大,前者实际是调用__alloc_pages函 数来分配内存,因此一次分配内存的大小限制和后者一样常见的Linux内核中内存分配 - leon - 我的奋斗__get_free_pages分配的内 存同样可以用于DMA操作常见的Linux内核中内存分配 - leon - 我的奋斗测试结果证明,dma_alloc_coherent函 数一次能分配的最大内存也为4M常见的Linux内核中内存分配 - leon - 我的奋斗

  2.6.ioremap

  void * ioremap (unsigned long offset, unsigned long size)

  ioremap是一种更直接的内存“分配”方式,使用时直接指定物理起始地址和需要分配内存的大小,然后将该段 物理地址映射到内核地址空间常见的Linux内核中内存分配 - leon - 我的奋斗ioremap用到的物理地址空间都是事先确定的,和上面的几种内存 分配方式并不太一样,并不是分配一段新的物理内存常见的Linux内核中内存分配 - leon - 我的奋斗ioremap多用于设备驱动,可以让CPU直接访问外部设备的IO空间常见的Linux内核中内存分配 - leon - 我的奋斗ioremap能映射的内存由原有的物理内存空间决定,所以没有进行测试常见的Linux内核中内存分配 - leon - 我的奋斗

  2.7.Boot Memory

  如果要分配大量的连续物理内存,上述的分配函数都不能满足,就只能用比较特殊的方式,在Linux内 核引导阶段来预留部分内存常见的Linux内核中内存分配 - leon - 我的奋斗

  2.7.1.在内核引导时分配内存

  void* alloc_bootmem(unsigned long size)

  可以在Linux内核引导过程中绕过伙伴系统来分配大块内存常见的Linux内核中内存分配 - leon - 我的奋斗使用方法是在Linux内核引导时,调用mem_init函数之前 用alloc_bootmem函数申请指定大小的内存常见的Linux内核中内存分配 - leon - 我的奋斗如果需要在其他地方调用这块内存,可以将alloc_bootmem返回的内存首地址通过EXPORT_SYMBOL导 出,然后就可以使用这块内存了常见的Linux内核中内存分配 - leon - 我的奋斗这种内存分配方式的缺点是,申请内存的代码必须在链接到内核中的代码里才能使用,因此必须重新编译内核,而且内存管理系统 看不到这部分内存,需要用户自行管理常见的Linux内核中内存分配 - leon - 我的奋斗测试结果表明,重新编译内核后重启,能够访问引导时分配的内存块常见的Linux内核中内存分配 - leon - 我的奋斗

  2.7.2.通过内核引导参数预留顶部内存

  在Linux内核引导时,传入参数“mem=size”保留顶部的内存区间常见的Linux内核中内存分配 - leon - 我的奋斗比如系统有256MB内 存,参数“mem=248M”会预留顶部的8MB内存,进入系统后可以调用ioremap(0xF800000,0x800000)来申请这段内存常见的Linux内核中内存分配 - leon - 我的奋斗

  3.几种分配函数的比较

1.kmalloc
   kmalloc内存分配和malloc相似,除非被阻塞否则他执行的速度非常快,而且不对获得空间清零.
说明:在用kmalloc申请函数后,要清零用memset()函数对申请的内存进行清零。

2.kamlloc函数原型:
#include
Void *kmalloc(size_t size, int flags);
(1)第一个参数是要分配的块的大小
(2)第二个参数是分配标志(flags),他提供了多种kmalloc的行为。
(3)第三个最常用的GFP_KERNEL;

A.表示内存分配(最终总是调用get_free_pages来实现实际的分配;这就是GFP前缀的由来)是代表运行在内核空间的进程执行的。使用GFP_KERNEL容许kmalloc在分配空闲内存时候如果内存不足容许把当前进程睡眠以等待。因此这时分配函数必须是可重入的。如果在进程上下文之外如:中断处理程序、tasklet以及内核定时器中这种情况下current进程不该睡眠,驱动程序该使用GFP_ATOMIC.
B.GFP_ATOMIC
用来从中断处理和进程上下文之外的其他代码中分配内存. 从不睡眠.
C.GFP_KERNEL
内核内存的正常分配. 可能睡眠.
D.GFP_USER
用来为用户空间页来分配内存; 它可能睡眠.
E.GFP_HIGHUSER
如同 GFP_USER, 但是从高端内存分配, 如果有. 高端内存在下一个子节描述.
F.GFP_NOFS,GFP_NOIO
这个标志功能如同 GFP_KERNEL, 但是它们增加限制到内核能做的来满足请求. 一个 GFP_NOFS 分配不允许进行任何文件系统调用, 而 GFP_NOIO 根本不允许任何 I/O 初始化. 它们主要地用在文件系统和虚拟内存代码, 那里允许一个分配睡眠, 但是递归的文件系统调用会是一个坏注意.
上面列出的这些分配标志可以是下列标志的相或来作为参数, 这些标志改变这些分配如何进行:
__GFP_DMA
这个标志要求分配在能够 DMA 的内存区. 确切的含义是平台依赖的并且在下面章节来解释.
__GFP_HIGHMEM
这个标志指示分配的内存可以位于高端内存.
__GFP_COLD
正常地, 内存分配器尽力返回\"缓冲热\"的页 -- 可能在处理器缓冲中找到的页. 相反, 这个标志请求一个\"冷\"页, 它在一段时间没被使用. 它对分配页作 DMA 读是有用的, 此时在处理器缓冲中出现是无用的. 一个完整的对如何分配 DMA 缓存的讨论看\"直接内存存取\"一节在第 1 章.
__GFP_NOWARN
这个很少用到的标志阻止内核来发出警告(使用 printk ), 当一个分配无法满足.
__GFP_HIGH
这个标志标识了一个高优先级请求, 它被允许来消耗甚至被内核保留给紧急状况的最后的内存页.
__GFP_REPEAT
__GFP_NOFAIL
__GFP_NORETRY
这些标志修改分配器如何动作, 当它有困难满足一个分配. __GFP_REPEAT 意思是\" 更尽力些尝试\" 通过重复尝试 -- 但是分配可能仍然失败. __GFP_NOFAIL 标志告诉分配器不要失败; 它尽最大努力来满足要求. 使用 __GFP_NOFAIL 是强烈不推荐的; 可能从不会有有效的理由在一个设备驱动中使用它. 最后, __GFP_NORETRY 告知分配器立即放弃如果得不到请求的内存.
Ø  内存区段
     __GFP_DMA和__GFP_HIGHMEM的使用与平台相关,Linux把内存分成3个区段:可用于DMA的内存、常规内存、以及高端内存。X86平台上ISA设备DMA区段是内存的前16MB,而PCI设备无此限制。
内存区后面的机制在 mm/page_alloc.c 中实现, 而内存区的初始化在平台特定的文件中, 常常在 arch 目录树的 mm/init.c。
3.kamlloc的使用方法:
     Linux 处理内存分配通过创建一套固定大小的内存对象池. 分配请求被这样来处理, 进入一个持有足够大的对象的池子并且将整个内存块递交给请求者. 驱动开发者应当记住的一件事情是, 内核只能分配某些预定义的, 固定大小的字节数组.
如果你请求一个任意数量内存, 你可能得到稍微多于你请求的, 至多是 2 倍数量. 同样, 程序员应当记住 kmalloc 能够处理的最小分配是 32 或者 64 字节, 依赖系统的体系所使用的页大小. kmalloc 能够分配的内存块的大小有一个上限. 这个限制随着体系和内核配置选项而变化. 如果你的代码是要完全可移植, 它不能指望可以分配任何大于 128 KB. 如果你需要多于几个 KB, 但是, 有个比 kmalloc 更好的方法来获得内存。在设备驱动程序或者内核模块中动态开辟内存,不是用malloc,而是kmalloc ,vmalloc,或者用get_free_pages直接申请页。释放内存用的是kfree,vfree,或free_pages. kmalloc函数返回的是虚拟地址(线性地址). kmalloc特殊之处在于它分配的内存是物理上连续的,这对于要进行DMA的设备十分重要. 而用vmalloc分配的内存只是线性地址连续,物理地址不一定连续,不能直接用于DMA.
  注意kmalloc最大只能开辟128k-16,16个字节是被页描述符结构占用了。
  内存映射的I/O口,寄存器或者是硬件设备的RAM(如显存)一般占用F0000000以上的地址空间。在驱动程序中不能直接访问,要通过kernel函数vremap获得重新映射以后的地址。
  另外,很多硬件需要一块比较大的连续内存用作DMA传送。这块内存需要一直驻留在内存,不能被交换到文件中去。但是kmalloc最多只能开辟大小为32XPAGE_SIZE的内存,一般的PAGE_SIZE=4kB,也就是128kB的大小的内存。
3.kmalloc和vmalloc的区别
• vmalloc()与 kmalloc()都可用于分配内存
• kmalloc()分配的内存处于3GB~high_memory之 间,这段内核空间与物理内存的映射一一对应
•vmalloc()分配的内存在 VMALLOC_START~4GB之间,这段非连续内 存区映射到物理内存也可能是非连续的
• 在内核空间中调用kmalloc()分配连续物理空间,而调用vmalloc()分配非物理连续空间。
• 把kmalloc()所分配内核空间中的地址称为内核逻辑地址
• 把vmalloc()分配的内核空间中的地址称 为内核虚拟地址
• vmalloc()在分配过程中须更新内核页表
总结:
1.kmalloc和vmalloc分配的是内核的内存,malloc分配的是用户的内存
2.kmalloc保证分配的内存在物理上是连续的, kmalloc()分配的内存在0xBFFFFFFF-0xFFFFFFFF以上的内存中,driver一般是用它来完成对DS的分配,更适合于类似设备驱动的程序来使用;
3.vmalloc保证的是在虚拟地址空间上的连续,vmalloc()则是位于物理地址非连续,虚地址连续区,起始位置由VMALLOL_START来决定,一般作为交换区、模块的分配。
3.kmalloc能分配的大小有限,vmalloc和malloc能分配的大小相对较大(因为vmalloc还可以处理交换空间)。
4.内存只有在要被DMA访问的时候才需要物理上连续,vmalloc比kmalloc要慢
5.vmalloc使用的正确场合是分配一大块,连续的,只在软件中存在的,用于缓冲的内存区域。不能在微处理器之外使用。
6.vmalloc 中调用了 kmalloc (GFP—KERNEL),因此也不能应用于原子上下文。
7.kmalloc和 kfree管理内核段内分配的内存,这是真实地址已知的实际物理内存块。
8.vmalloc对应于vfree,分配连续的虚拟内存,但是物理上不一定连续。
9.kmalloc分配内存是基于slab,因此slab的一些特性包括着色,对齐等都具备,性能较好。物理地址和逻辑地址都是连续的


举报

相关文章推荐

柔性数组

(1)用途:满足需要变长度的结构体; (2)用法:在一个结构体的最后,申明一个长度为0的数组,就可以使得这个结构体是可变长的。对编译器来说,此时的长度为0的数组并不占用空间(因为数组名本身不占空间,...

2.3 常见内核数据结构 : 存储系统数据结构

存储系统数据结构: 1. 卷参数块(VPB) kd> dt nt!_VPB Type  Size Flags VolumeLabelLength DeviceObject Ptr32 _DEVICE_...

我是如何成为一名python大咖的?

人生苦短,都说必须python,那么我分享下我是如何从小白成为Python资深开发者的吧。2014年我大学刚毕业..

Linux内核中的内存管理浅谈 .

http://blog.csdn.net/jasonblog/article/details/4848977原文链接   1。基本框架(此处主要谈页式内存管理) 4G是一个比较敏感的字眼,早些日...
  • acs713
  • acs713
  • 2013-02-07 12:04
  • 2721

Linux 3.x 内核学习笔记——x86 64位内存管理

地址映射 64位地址采用4层地址映射,如下图: pgd、pud、pmd、pte各占了9位,加上12位的页内index,共用了48位。即可管理的地址空间为2^48=256T。而在32位地址模式时,该...

Linux内存布局、内存分配原理

Linux的虚拟内存管理有几个关键概念 1.每个进程有独立的虚拟地址空间,进程访问的虚拟地址并不是真正的物理地址 2.虚拟地址可通过每个进程的页表与物理地址进行映射,获得真正物理地址 3....

深入浅出Linux内核内存管理基础

1 背景知识 1.1 用户空间与内核空间内存的划分        从Linux操作系统层次上,内存可划分为用户空间内存和内核空间内存。        32位的CPU,最大寻址范围为...
  • acs713
  • acs713
  • 2015-01-18 16:45
  • 2939

Linux内核中的内存管理浅谈

[十月往昔]——Linux内核中的内存管理浅谈 为什么要叫做“十月往昔”呢?是为了纪念我的原博客。 不知道为什么,突然想来一个新的开始——而那个博客存活至今刚好十个月,也有十个月里的文档。 十月...

linux内存管理--slab及其代码解析

本文讲述了linux slab机制,以及其数据结构和代码实现。

linux内核内存管理学习之三(slab分配器)

一、概述 在linux内核中伙伴系统用来管理物理内存,其分配的单位是页,但是向用户程序一样,内核也需要动态分配内存,而伙伴系统分配的粒度又太大。由于内核无法借助标准的C库,因而需要别的手段来实现内核中...

内存分配-----伙伴算法和slab算法

内存管理问题: 内存碎片大小和管理内存碎片的效率问题(即空间和时间效率的问题): 内存碎片是指当回收一块内存时,一般将内存直接放入free链表中,由于内存越分配越小,内存块就会特别多而且特别小,当...
返回顶部
收藏助手
不良信息举报
您举报文章:深度学习:神经网络中的前向传播和反向传播算法推导
举报原因:
原因补充:

(最多只允许输入30个字)