启动期间的内存管理之pagging_init初始化分页机制--Linux内存管理(十四)

最新推荐文章于 2022-12-12 17:22:17 发布
最新推荐文章于 2022-12-12 17:22:17 发布
阅读量4.3k 收藏 2
点赞数 1
分类专栏： ┈┈【理解Linux内存管理】 文章标签： linux kernel 内存管理 分页 内核
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gatieme/article/details/52403350
版权
日期内核版本架构作者GitHubCSDN
2016-09-01Linux-4.7X86 & armgatiemeLinuxDeviceDriversLinux内存管理


在内存管理的上下文中, 初始化(initialization)可以有多种含义. 在许多CPU上, 必须显式设置适用于Linux内核的内存模型. 例如在x86_32上需要切换到保护模式, 然后奇偶内核才能检测到可用内存和寄存器.

参照

Linux节点和内存管理区的初始化

linux内存管理之初始化zonelists

Linux-2.6.32 NUMA架构之内存和调度

Linux节点和内存管理区的初始化

1 前景回顾

1.1 Linux内存管理的层次结构

Linux把物理内存划分为三个层次来管理

层次描述
存储节点(Node)CPU被划分为多个节点(node), 内存则被分簇, 每个CPU对应一个本地物理内存, 即一个CPU-node对应一个内存簇bank，即每个内存簇被认为是一个节点
管理区(Zone)每个物理内存节点node被划分为多个内存管理区域, 用于表示不同范围的内存, 内核可以使用不同的映射方式映射物理内存
页面(Page)内存被细分为多个页面帧, 页面是最基本的页面分配的单位　｜

为了支持NUMA模型，也即CPU对不同内存单元的访问时间可能不同，此时系统的物理内存被划分为几个节点(node), 一个node对应一个内存簇bank，即每个内存簇被认为是一个节点

  • 首先, 内存被划分为结点. 每个节点关联到系统中的一个处理器, 内核中表示为pg_data_t的实例. 系统中每个节点被链接到一个以NULL结尾的pgdat_list链表中<而其中的每个节点利用pg_data_tnode_next字段链接到下一节．而对于PC这种UMA结构的机器来说, 只使用了一个成为contig_page_data的静态pg_data_t结构.

  • 接着各个节点又被划分为内存管理区域, 一个管理区域通过struct zone_struct描述, 其被定义为zone_t, 用以表示内存的某个范围, 低端范围的16MB被描述为ZONE_DMA, 某些工业标准体系结构中的(ISA)设备需要用到它, 然后是可直接映射到内核的普通内存域ZONE_NORMAL,最后是超出了内核段的物理地址域ZONE_HIGHMEM, 被称为高端内存.　是系统中预留的可用内存空间, 不能被内核直接映射.

  • 最后页帧(page frame)代表了系统内存的最小单位, 堆内存中的每个页都会创建一个struct page的一个实例. 传统上，把内存视为连续的字节，即内存为字节数组，内存单元的编号(地址)可作为字节数组的索引. 分页管理时，将若干字节视为一页，比如4K byte. 此时，内存变成了连续的页，即内存为页数组，每一页物理内存叫页帧，以页为单位对内存进行编号，该编号可作为页数组的索引，又称为页帧号.

1.2 Linux内存管理的3个阶段

在初始化过程中, 还必须建立内存管理的数据结构, 以及很多事务. 因为内核在内存管理完全初始化之前就需要使用内存. 在系统启动过程期间, 使用了额外的简化悉尼股市的内存管理模块, 然后在初始化完成后, 将旧的模块丢弃掉.

因此我们可以把linux内核的内存管理分三个阶段。

阶段起点终点描述
第一阶段系统启动bootmem或者memblock初始化完成此阶段只能使用memblock_reserve函数分配内存， 早期内核中使用init_bootmem_done = 1标识此阶段结束
第二阶段bootmem或者memblock初始化完buddy完成前引导内存分配器bootmem或者memblock接受内存的管理工作, 早期内核中使用mem_init_done = 1标记此阶段的结束
第三阶段buddy初始化完成系统停止运行可以用cache和buddy分配内存

1.3 系统启动阶段的内存初始化过程

首先我们来看看start_kernel是如何初始化系统的, start_kerne定义在init/main.c?v=4.7, line 479

其代码很复杂, 我们只截取出其中与内存管理初始化相关的部分, 如下所示

asmlinkage __visible void __init start_kernel(void)
{

    setup_arch(&command_line);
    mm_init_cpumask(&init_mm);

    setup_per_cpu_areas();


    build_all_zonelists(NULL, NULL);
    page_alloc_init();


    /*
     * These use large bootmem allocations and must precede
     * mem_init();
     * kmem_cache_init();
     */
    mm_init();

    kmem_cache_init_late();

    kmemleak_init();
    setup_per_cpu_pageset();

    rest_init();
}
函数功能
setup_arch是一个特定于体系结构的设置函数, 其中一项任务是负责初始化自举分配器
mm_init_cpumask初始化CPU屏蔽字
setup_per_cpu_areas函数(查看定义)给每个CPU分配内存，并拷贝.data.percpu段的数据. 为系统中的每个CPU的per_cpu变量申请空间.
在SMP系统中, setup_per_cpu_areas初始化源代码中(使用per_cpu宏)定义的静态per-cpu变量, 这种变量对系统中每个CPU都有一个独立的副本.
此类变量保存在内核二进制影像的一个独立的段中, setup_per_cpu_areas的目的就是为系统中各个CPU分别创建一份这些数据的副本
在非SMP系统中这是一个空操作
build_all_zonelists建立并初始化结点和内存域的数据结构
mm_init建立了内核的内存分配器,
其中通过mem_init停用bootmem分配器并迁移到实际的内存管理器(比如伙伴系统)
然后调用kmem_cache_init函数初始化内核内部用于小块内存区的分配器
kmem_cache_init_late在kmem_cache_init之后, 完善分配器的缓存机制,　当前3个可用的内核内存分配器slab, slob, slub都会定义此函数
kmemleak_initKmemleak工作于内核态，Kmemleak 提供了一种可选的内核泄漏检测，其方法类似于跟踪内存收集器。当独立的对象没有被释放时，其报告记录在 /sys/kernel/debug/kmemleak中, Kmemcheck能够帮助定位大多数内存错误的上下文
setup_per_cpu_pageset初始化CPU高速缓存行, 为pagesets的第一个数组元素分配内存, 换句话说, 其实就是第一个系统处理器分配
由于在分页情况下，每次存储器访问都要存取多级页表，这就大大降低了访问速度。所以，为了提高速度，在CPU中设置一个最近存取页面的高速缓存硬件机制，当进行存储器访问时，先检查要访问的页面是否在高速缓存中.

1.4 setup_arch函数初始化内存流程

前面我们的内核从start_kernel开始, 进入setup_arch(), 并完成了早期内存分配器的初始化和设置工作.

void __init setup_arch(char **cmdline_p)
{
    /*  初始化memblock  */
    arm64_memblock_init( );

    /*  分页机制初始化  */
    paging_init();

    bootmem_init();
}
流程描述
arm64_memblock_init初始化memblock内存分配器
paging_init初始化分页机制
bootmem_init初始化内存管理

之前的文章中我们已经讲过了memblock初始化的过程, 现在我们来看看内核是如何初始化内存管理器的

1.5 (第一阶段)启动过程中的内存分配器

在初始化过程中, 还必须建立内存管理的数据结构, 以及很多事务. 因为内核在内存管理完全初始化之前就需要使用内存. 在系统启动过程期间, 使用了额外的简化悉尼股市的内存管理模块, 然后在初始化完成后, 将旧的模块丢弃掉.

这个阶段的内存分配其实很简单, 因此我们往往称之为内存分配器(而不是内存管理器), 早期的内核中内存分配器使用的bootmem引导分配器, 它基于一个内存位图bitmap, 使用最优适配算法来查找内存, 但是这个分配器有很大的缺陷, 最严重的就是内存碎片的问题, 因此在后来的内核中将其舍弃《而使用了新的memblock机制. memblock机制的初始化在arm64上是通过arm64_memblock_init函数来实现的

而第一阶段中memblock的初始化工作就是通过start_kernel->setup_arch->arm64_memblock_init来完成的

1.7 今日内容(分页机制初始化)

在初始化内存的结点和内存区域之前, 内核先通过pagging_init初始化了内核的分页机制.

在分页机制完成后, 才会开始初始化系统的内存数据结构(包括内存节点数据和内存区域), 并在随后初始化buddy伙伴系统来接管内存管理的工作

2 分页机制初始化

arm64架构下, 内核在start_kernel()->setup_arch()中通过arm64_memblock_init( )完成了memblock的初始化之后, 接着通过setup_arch()->paging_init()开始初始化分页机制

paging_init负责建立只能用于内核的页表, 用户空间是无法访问的. 这对管理普通应用程序和内核访问内存的方式，有深远的影响

2.1 虚拟地址空间(以x86_32位系统为例)

因此在仔细考察其实现之前，很重要的一点是解释该函数的目的

在x86_32系统上内核通常将总的4GB可用虚拟地址空间按3:1的比例划分给用户空间和内核空间, 虚拟地址空间的低端3GB
用于用户状态应用程序, 而高端的1GB则专用于内核. 尽管在分配内核的虚拟地址空间时, 当前系统上下文是不相干的, 但每个进程都有自身特定的地址空间.

这些划分主要的动机如下所示

  • 在用户应用程序的执行切换到核心态时（这总是会发生，例如在使用系统调用或发生周期性的时钟中断时），内核必须装载在一个可靠的环境中。因此有必要将地址空间的一部分分配给内核专用.

  • 物理内存页则映射到内核地址空间的起始处，以便内核直接访问，而无需复杂的页表操作.

如果所有物理内存页都映射到用户空间进程能访问的地址空间中, 如果在系统上有几个应用程序在运行, 将导致严重的安全问题. 每个应用程序都能够读取和修改其他进程在物理内存中的内存区. 显然必须不惜任何代价防止这种情况出现.

虽然用于用户层进程的虚拟地址部分随进程切换而改变，但是内核部分总是相同的

出于内存保护等一系列的考虑, 内核将整个进程的虚拟运行空间划分为内核虚拟运行空间和内核虚拟运行空间

虚拟地址空间

按3:1的比例划分地址空间, 只是约略反映了内核中的情况，内核地址空间作为内核的常驻虚拟地址空间, 自身又分为各个段

内核空间

地址空间的第一段用于将系统的所有物理内存页映射到内核的虚拟地址空间中。由于内核地址空间从偏移量0xC0000000开始，即经常提到的3 GiB，每个虚拟地址x都对应于物理地址x—0xC0000000，因此这是一个简单的线性平移。

直接映射区域从0xC0000000到high_memory地址，high_memory准确的数值稍后讨论。第1章提到过，这种方案有一问题。由于内核的虚拟地址空间只有1 GiB，最多只能映射1 GiB物理内存。IA-32系统（没有PAE）最大的内存配置可以达到4 GiB，引出的一个问题是，如何处理剩下的内存？

这里有个坏消息。如果物理内存超过896 MiB，则内核无法直接映射全部物理内存。该值甚至比此前提到的最大限制1 GiB还小，因为内核必须保留地址空间最后的128 MiB用于其他目的，我会稍后解释。将这128 MiB加上直接映射的896 MiB内存，则得到内核虚拟地址空间的总数为1 024 MiB = 1GiB。内核使用两个经常使用的缩写normal和highmem，来区分是否可以直接映射的页帧。

内核地址空间的最后128 MiB用于何种用途呢？如图3-15所示，该部分有3个用途。

  • 虚拟内存中连续、但物理内存中不连续的内存区，可以在vmalloc区域分配。该机制通常用于用户过程，内核自身会试图尽力避免非连续的物理地址。内核通常会成功，因为大部分大的内存块都在启动时分配给内核，那时内存的碎片尚不严重。但在已经运行了很长时间的系统上，在内核需要物理内存时，就可能出现可用空间不连续的情况。此类情况，主要出现在动态加载模块时

  • 持久映射用于将高端内存域中的非持久页映射到内核中

  • 固定映射是与物理地址空间中的固定页关联的虚拟地址空间项，但具体关联的页帧可以自由
    选择。它与通过固定公式与物理内存关联的直接映射页相反，虚拟固定映射地址与物理内存位置之间
    的关联可以自行定义，关联建立后内核总是会注意到的

同样我们的用户空间, 也被划分为几个段, 包括从高地址到低地址分别为 :

进程的虚拟地址空间


区域存储内容
栈局部变量, 函数参数, 返回地址等
堆动态分配的内存
BSS段未初始化或初值为0的全局变量和静态局部变量
数据段一初始化且初值非0的全局变量和静态局部变量
代码段可执行代码, 字符串面值, 只读变量

2.2 paging_init初始化分页机制

paging_init函数定义在arch/arm64/mm/mmu.c?v=4.7, line 538

/*
 * paging_init() sets up the page tables, initialises the zone memory
 * maps and sets up the zero page.
 */
void __init paging_init(void)
{
    phys_addr_t pgd_phys = early_pgtable_alloc();
    pgd_t *pgd = pgd_set_fixmap(pgd_phys);

    map_kernel(pgd);
    map_mem(pgd);

    /*
     * We want to reuse the original swapper_pg_dir so we don't have to
     * communicate the new address to non-coherent secondaries in
     * secondary_entry, and so cpu_switch_mm can generate the address with
     * adrp+add rather than a load from some global variable.
     *
     * To do this we need to go via a temporary pgd.
     */
    cpu_replace_ttbr1(__va(pgd_phys));
    memcpy(swapper_pg_dir, pgd, PAGE_SIZE);
    cpu_replace_ttbr1(swapper_pg_dir);

    pgd_clear_fixmap();
    memblock_free(pgd_phys, PAGE_SIZE);

    /*
     * We only reuse the PGD from the swapper_pg_dir, not the pud + pmd
     * allocated with it.
     */
    memblock_free(__pa(swapper_pg_dir) + PAGE_SIZE,
              SWAPPER_DIR_SIZE - PAGE_SIZE);
}
CHENG Jian
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
Linux内存分页导致memcpy慢,memcpy的内存重叠问题
weixin_28900463的博客
05-03 601
【注】改编自memmove 和 memcpy的区别。原作者如有不爽，请告知！memcpy是C语言中的库函数，在头文件string.h中，作用是拷贝一定长度的内存的内容，原型分别如下：void *memcpy(void *dest, const void *src, size_t count)使用memcpy时，有可能会遇到内存重叠的问题：第一种情况下，拷贝重叠的区域不会出现问题，内容均可以正确的被...
[Pthread] Linux中的内存管理(一)--Paging
Javadino的专栏
09-06 4280
前几次我们分析了程序是如何在Linux上被加载运行的。这次我们尽量简洁的分析一下在Linux中，程序是如何使用内存，而系统又是怎样管理内存的。内存访问和管理是一个跨越应用程序，操作系统，硬件平台的一个复杂的过程。虽然过程很复杂，我们还是尝试着去理解一下。1. IA-32架构中的内存管理机制我们从硬件开始吧，内存归根结底是硬件，内存(Random Access Memory)在加电的情况下，在地址总
linux内核启动的时候内存布
cupidqust的专栏
01-06 200
<br /><br />第一个4KB是保留给BIOS使用的，接下来的640K理论上是可用的，但是确不能作为加载内核的空间，因为这一部分后面紧跟着是ROM的固定映射，比如显示卡等。<br />_text 到_etext是内核的代码段部分，即整个编译好的内核代码，内核的数据如全局变量之类的都放在_etext到_edata之间的内存中，_edata到_end之间的部分是内核初始化期间需要的一些全局变量，这些全局变量的特点是启动完成后就不再使用了，因此可以被删除，释放出内存空间。
linux 启动内存的使用
jacksen1026的专栏
06-13 768
linux在启动的时候对内存的使用是通过原始的位图管理方式进行分配使用和管理的。位图方式将整个内存空间分成固定大小的内存页，以页大小进行分配管理的，每一页用一个bit位来标识可用和不可用。整个内存空间的所有内存页就由许多位所组成的位图中的其中一个bit位来进行标识。一个内存页所对应的bit位是1则表示该页已分配，如果是0则表示该页未被分配，可以进行分配使用。位图管理的是除内核所用内存以外的
Linux arm64 bootmem_init 初始化详细分析之-arm64_memory_present
qq_30025621的博客
08-14 862
linux内核版本：linux-4.4.y 基于arm64分析 推荐文章：http://www.voidcn.com/article/p-qtnltdel-up.html(Linux内存管理中的SPARSEMEM) start_kernel -> setup_arch ->paging_init ->bootmem_init ->arm64_memory_pr...
python使用 __init__初始化操作简单示例
09-18
主要介绍了python使用 __init__初始化操作,结合实例形式分析了Python面向对象程序设计中使用__init__进行初始化操作相关技巧与注意事项,需要的朋友可以参考下
linux内存管理(上篇-物理内存组织）
01-16
内存初始化是 Linux 启动过程中的一个重要步骤。head.S 汇编阶段的内存初始化将创建初始阶段的页表，start_kernel C 语言阶段的内存初始化将建立内核虚拟地址空间。 identity mapping identity mapping 是指把 id...
UART.rar_UART_INIT_uart_init（）_串口初始化
09-24
串口初始化程序，UART_INIT(）实现串口初始化，包括工作方式选择和终端的开禁等等。
Cocos2d-x的内存管理总结
09-04
例如，当创建一个新对象时，需要通过`new`操作符，然后调用`init`方法初始化。在使用完毕后，需要调用`release`方法来释放对象。Cocos2d-x中的CCDirector是一个典型的例子，通过`sharedDirector`获取单例实例，当...
嵌入式linux开发 (三十一) 内存管理2.0(2) freertos内存管理
01-06
内存分段初始化部分 startup_stm32f407xx.s Reset_Handler 初始化栈 // 系统.stack段 // .code 段没做动作 // .bss 段没做动作 从flash 上 加载data 段入sram 清bss段 SystemInit __libc_init_array...
pagetable_init()
kernel_details的专栏
01-15 3369
pagetable_init()根据物理内存初始化页目录项及页表项static void __init pagetable_init (void)...{    unsigned long vaddr;    pgd_t *pgd_base = swapper_pg_dir;#ifdef CONFIG_X86_PAE    int i;     //初始化整个页目录项(1024项)    
Linux_arm_启动_c语言部分详解,Linuxarm启动c语言部分详解第三讲（Paging_init中重要函数附录）...
weixin_39743064的博客
05-13 114
Written by leemingPaging_init中重要函数附录：由于阅读直观起见，在paging_init函数中只是放了一次嵌套的代码，并没有继续嵌套代码，但是还有一个函数对于我们来说也是非常重要的，它就是在bootmem_init(mi); devicemaps_init(mdesc);这两个函数中都涉及的create_mapping，它也是创建页表的直接操作者。1.void __in...
Linux内存分页导致memcpy慢,Linux中mmap的物理内存在用户空间中的memcpy性能不佳
weixin_33933221的博客
05-03 774
在我的计算机上安装了192GB RAM,我在启动时由Linux内核保留了大于4GB(硬件地址为0x100000000)的188GB RAM(mem = 4G memmap = 188G $4G).数据采集​​内核模块使用DMA将数据累积到用作环形缓冲区的大区域中.用户空间应用程序mmap将此环形缓冲区放入用户空间,然后从当前位置的环形缓冲区复制块,以便在它们准备好后进行处理.使用memcpy从mm...
关于ARM寄存器TTBR0 TTBR1
dshj2007的专栏
09-30 621
At the hardware level, ARM supports two page table trees simultaneously, using the hardware registers TTBR0 and TTBR1. A virtual address is mapped to a physical address by the CPU depending on settings in TTBRC. This control register has a field which sets
Linux 内存管理窥探（8）：内存初始化（paging_init）
StephenZhou
03-19 1942
参考文档： https://github.com/gatieme/LDD-LinuxDeviceDrivers/tree/master/study/kernel/02-memory/03-initialize/04-bootmem_init 感谢作者的无私分享。 我们住关注 start_kernel 中关于内存管理的部分总览： asmlinkage __visible void __i...
PhoneGap android方向解析
Delion
04-01 137
PhoneGap源码解析 &lt;wbr&gt;&lt;/wbr&gt; &lt;wbr&gt;&lt;/wbr&gt; Phonegap的核心是插件。在phonegap的概念中，一切调用native功能，都被封装成插件（plugin)，由PlugInManager来管理。而在PhoneGap的使用方法中，PlugInManager是由重写过的Activity，即DroidG...
[register]-ARM64重要寄存器介绍
热门推荐
baron-周贺贺-代码改变世界ctw
06-29 1万+
PSTATE(process state)是一些状态位. 一些位仅在aarch32 state下使用、一些位仅在aarch64 state下使用、一些位可以同时在aarch32/aarch64 state下使用; 1、PSTATE aarch64的读写 在aarch64中，只能可以通过MSR/MRS指令访问特殊寄存器(special-purpose)的方式读写这些位. 除了这些特殊寄存器中表示的位，PSTATE的其它位都是不能访问的. （1）、 这些特殊的寄存器包含 : NZCV、DAIF、CurrentE
一篇解析Linux paging_init
youzhangjing_的博客
12-12 493
从详细讲解Linux物理内存初始化中，可知在paging_init调用之前，存放Kernel Image和DTB的两段物理内存区域可以访问了（相应的页表已经建立好）。尽管物理内存已经通过memblock_add添加进系统，但是这部分的物理内存到虚拟内存的映射还没有建立，可以通过memblock_alloc分配一段物理内存，但是还不能访问，一切还需要等待paging_init的执行。最终页表建立好后，可以通过虚拟地址去访问最终的物理地址了。
cordova 开发安卓项目 解决html 放到服务器上无法调用插件的问题
weixin_34007879的博客
07-29 373
cordova2.9版本开发很简单将需要的js和html放到服务器上直接调用cordova提供的插件函数就可以调用，从3.x版本之后机制发生了很大的变化，cordova不在预设插件函数所有的插件需要自己去安装cordovapluginadd网络地址或自己写的插件本地路径就可以添加插件。具体怎么添加网上有教程。今天解决的问题是，3.x之后...
python 类函数__init__的 ->None 写法
最新发布
07-27
在Python中，类函数`__init__`用于初始化类的实例。当我们创建一个类的对象时，`__init__`函数会自动调用，以便对对象进行初始化操作。 当`__init__`函数没有显式地返回任何值时，Python会默认返回`None`。这意味着在`__init__`函数的定义中，我们不需要显式地写上`-> None`来指定返回类型为`None`，因为它是默认的。 以下是一个使用`__init__`函数的示例： ```python class MyClass: def __init__(self, name): self.name = name obj = MyClass("Alice") print(obj.name) # 输出 "Alice" ``` 在上述示例中，`__init__`函数接收一个参数`name`，并将其赋值给类的实例变量`self.name`。当我们创建一个`MyClass`的对象时，会自动调用`__init__`函数，并将参数传递给它。最后，我们可以访问对象的`name`属性并打印它。 希望这个例子能帮助你理解`__init__`函数的使用。如果有任何进一步的问题，请随时问我。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值