Linux内存反向映射

已于 2023-01-03 10:48:12 修改
阅读量378 收藏 1
点赞数 1
分类专栏： Linux内核 文章标签： linux
于 2023-01-02 18:48:04 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_48450161/article/details/128523420
版权

数据结构

AV & AVC & VMA

struct anon_vma { //AV是per VMA的
    struct anon_vma *root; //指向祖宗(root)进程的anon_vma
    struct anon_vma *parent; //指向父进程的anon_vma
    struct rw_semaphore rwsem; /* W: modification, R: walking the list */
    atomic_t refcount; //引用计数
    unsigned degree; //Count of child anon_vmas and VMAs which points to this anon_vma.
    struct rb_root rb_root;	/* Interval tree of private "related" vmas */
}

/* AVC有两种功能：
 * 1、连接本进程的VMA和AV，该种情况下AVC是per VMA的
 * 2、连接父(所有前辈进程)进程的AV与子(孙)进程的VMA，该种情况数量为进程的前辈进程数量
 */
struct anon_vma_chain {
	struct vm_area_struct *vma;  //指向VMA
	struct anon_vma *anon_vma; //指向AV
	struct list_head same_vma; //把自己挂在VMA->anon_vma_chain链表上
	struct rb_node rb;			//把自己挂在anon_vma->rb_root红黑树上
	unsigned long rb_subtree_last;
};

struct vm_area_struct {
    struct list_head anon_vma_chain; //VMA和AVC是一对多，把AVC穿成链表
    struct anon_vma *anon_vma; //VMA和AV是一对一的关系
}

映射产生的过程

父进程产生匿名页面

用户态malloc分配虚拟内存->用户进程写内存->内核发生缺页异常->do_anonymous_page()

static int do_anonymous_page(struct mm_struct *mm, struct vm_area_struct *vma,
		unsigned long address, pte_t *page_table, pmd_t *pmd,
		unsigned int flags)
{
    /* 保证vma有一个AV对应它，common case是已经有了，但没有的话就要分配并建立AVC VMA AV三者关系 */
    anon_vma_prepare(vma);
    /* 申请页面的动作 */
    page = alloc_zeroed_user_highpage_movable(vma, address);
    /* 设置该页面的匿名映射 */
    page_add_new_anon_rmap(page, vma, address);
}

准备VMA的AV和AVC

int anon_vma_prepare(struct vm_area_struct *vma) {
    struct anon_vma *anon_vma = vma->anon_vma;
	struct anon_vma_chain *avc;
    if (unlikely(!anon_vma)) {
        avc = anon_vma_chain_alloc(GFP_KERNEL);
        anon_vma = find_mergeable_anon_vma(vma);
        anon_vma = anon_vma_alloc();//如果find_mergeable_av失败
        vma->anon_vma = anon_vma; //建立三者关系
        anon_vma_chain_link(vma, avc, anon_vma);
        anon_vma->degree++; //Count of child anon_vmas and VMAs which points to this anon_vma.
    }
}
static void anon_vma_chain_link(struct vm_area_struct *vma,
				struct anon_vma_chain *avc,
				struct anon_vma *anon_vma)
{
	avc->vma = vma;
	avc->anon_vma = anon_vma;
	list_add(&avc->same_vma, &vma->anon_vma_chain);
	anon_vma_interval_tree_insert(avc, &anon_vma->rb_root);
}

设置该页面的匿名映射

/**
 * page_add_new_anon_rmap - add pte mapping to a new anonymous page
 * @page:	the page to add the mapping to
 * @vma:	the vm area in which the mapping is added
 * @address:	the user virtual address mapped
 */
void page_add_new_anon_rmap(struct page *page,
	struct vm_area_struct *vma, unsigned long address)
{
    /* 设置这个页可以交换到磁盘 */
	SetPageSwapBacked(page);
    /* 省略…… */
    /* 设置这个页面为匿名映射 */
	__page_set_anon_rmap(page, vma, address, 1);
}
/**
 * @exclusive:	the page is exclusively owned by the current process
                page被当前进程独占
 */
static void __page_set_anon_rmap(struct page *page,
	struct vm_area_struct *vma, unsigned long address, int exclusive)
{
	struct anon_vma *anon_vma = vma->anon_vma;
    /* 如果已经是匿名页 *//* 不理解 */
	if (PageAnon(page))
		return;
	/*
	 * If the page isn't exclusively mapped into this vma,
	 * we must use the _oldest_ possible anon_vma for the
	 * page mapping!
	 *//* 不理解 */
	if (!exclusive)
		anon_vma = anon_vma->root;

    /* 重点 */
	anon_vma = (void *) anon_vma + PAGE_MAPPING_ANON;
	page->mapping = (struct address_space *) anon_vma;
    /* 计算address在vma中的第几个页面 */
	page->index = linear_page_index(vma, address);
}

父进程产生匿名页面时的状态
(./rmap/statusWhenProcessDoAnonPage.jpg)]
在这里插入图片描述

总结：父进程产生匿名页时的反向映射操作，首先申请了AV和AVC，构建VMA、AV、AVC三者的关系，然后申请一个页面，将AV的地址(利用最低位表示该page是一个anon_page)设置到page->mapping中，将address在VMA中的第几个页面的信息设置在page->index中。
此时因为父进程还没有子进程，或者说之前fork的时候该page还没有分配，就不必处理父子进程之间复杂的AVC指针问题。

父进程fork子进程

父进程在fork()创建子进程时，子进程会复制父进程的VMA数据结构内容，并且复制父进程的PTE内容到子进程的页表中，实现父子进程共享页表。多个不同子进程的虚拟页面会同时映射到同一个物理页面。
另外，多个不相干的进程的虚拟页面可以通过KSM机制映射到同一个物理页面中，暂不讨论该技术

父进程fork->do_fork()->copy_process()->copy_mm()->dup_mm()->dup_mmap()

/* 复制父进程的地址空间 */
static __latent_entropy int dup_mmap(struct mm_struct *mm,
					struct mm_struct *oldmm)
{
    /* 遍历父进程的所有VMA */
    for (mpnt = oldmm->mmap; mpnt; mpnt = mpnt->vm_next) {
        /* 新建一个VMA，把父进程VMA的信息都复制到其中 */
        tmp = vm_area_dup(mpnt); /* 1 */
        tmp->vm_mm = mm; //该VMA属于哪个mm_struct

        /* 建立子进程反向映射所需的所有关系 */
        anon_vma_fork(tmp, mpnt);/* 2 */

        /* 把tmp添加到子进程的红黑树中 */
        __vma_link_rb(mm, tmp, rb_link, rb_parent);

        /* 复制父进程的PTE到子进程页表中 */
        copy_page_range(mm, oldmm, mpnt);
    }
}
/* 1 */
struct vm_area_struct *vm_area_dup(struct vm_area_struct *orig)
{
	struct vm_area_struct *new = kmem_cache_alloc(vm_area_cachep, GFP_KERNEL);
	if (new) {
		*new = *orig; //可以这样赋值结构体么？
		INIT_LIST_HEAD(&new->anon_vma_chain);
	}
	return new;
}
/* 2 */
/* vma->子进程的VMA, pvma->表示父进程的VMA */
int anon_vma_fork(struct vm_area_struct *vma, struct vm_area_struct *pvma) {
	struct anon_vma_chain *avc;
	struct anon_vma *anon_vma;

    /* 通过建立多个AVC枢纽，来建立新进程与所有前辈进程的联系 */
    anon_vma_clone(vma, pvma);

    /* 建立子进程的AV和AVC，上一步只需要子进程的VMA即可 */
    anon_vma = anon_vma_alloc();
    avc = anon_vma_chain_alloc(GFP_KERNEL);

    /* 子进程与前辈进程的关系，该关系只能通过子进程找前辈进程，上面的可以通过前辈进程找子进程 */
    anon_vma->root = pvma->anon_vma->root;
	anon_vma->parent = pvma->anon_vma;

    /* 建立子进程内部的VMA、AV、AVC联系 */
    anon_vma_chain_link(vma, avc, anon_vma);
}
int anon_vma_clone(struct vm_area_struct *dst, struct vm_area_struct *src) {
    struct anon_vma_chain *avc, *pavc;
    /* 遍历父进程VMA下AVC链表 */
    list_for_each_entry_reverse(pavc, &src->anon_vma_chain, same_vma) {
        /* 创建AVC枢纽 */
        avc = anon_vma_chain_alloc(GFP_NOWAIT | __GFP_NOWARN);
        /* 总结：AVC枢纽用于连接父进程的AV和子进程的VMA
         * AVC枢纽->vma = 子进程VMA
         * AVC枢纽加入子进程VMA的链表中
         * AVC枢纽->AV = 父进程AV
         * AVC枢纽加入父进程AV的红黑树中
         */
        anon_vma_chain_link(dst, avc, pavc->anon_vma);
    }
    /* 遍历的意义：考虑如下情况
    * 若父进程A fork 子进程B，子进程B fork 孙进程C
    * 父进程A的VMA0中AVC链表上有AVC0
    * 子进程B的VMA1中AVC链表上有AVC0和AVC枢纽(称为AVC_x01)
    * 当fork孙进程C的时候，遍历子进程B的VMA1的AVC链表，通过pavc->anon_vma找到进程A和进程B的AV，依次建立孙进程C与父进程A、子进程B的联系
    */
}

父进程fork时RMAP机制的流程
(./rmap/statusWhenProcessFork.jpg)]
在这里插入图片描述

举个栗子
(./rmap/rmapExample.jpg)]
在这里插入图片描述

子进程发生写时复制

前文叙述的父进程产生匿名页面最终会在do_anonymous_page()中申请页并绑定rmap的关系
当子进程发生写时复制时会在do_wp_page()函数中处理
(./rmap/MissPageHandle.jpg)]
在这里插入图片描述

->缺页中断发生
    ->handle_pte_fault()
        ->do_wp_page()
            ->wp_page_copy()
                ->分配一个新的匿名页面
                    ->page_add_new_anon_rmap()      前文分析过
                        ->__page_set_anon_rmap()

RAMP应用——页面回收

struct rmap_walk_control {
	void *arg;
	/* 表示具体断开某个VMA上映射的PTE */
	bool (*rmap_one)(struct page *page, struct vm_area_struct *vma,
					unsigned long addr, void *arg);
    /* 判断一个页是否断开成功 */
	int (*done)(struct page *page);
    /* 实现一个锁机制 */
	struct anon_vma *(*anon_lock)(struct page *page);
    /* 表示跳过无效VMA */
	bool (*invalid_vma)(struct vm_area_struct *vma, void *arg);
};
bool try_to_unmap(struct page *page, enum ttu_flags flags)
{
	struct rmap_walk_control rwc = {
		.rmap_one = try_to_unmap_one,
		.arg = (void *)flags,
		.done = page_mapcount_is_zero,
		.anon_lock = page_lock_anon_vma_read,
	};

    /* 重要 */
    rmap_walk(page, &rwc);

    /* page->_mapcount == -1表示所有映射到这个页面的PTE都已经解除完毕 */
	return !page_mapcount(page) ? true : false;
}

以匿名页为例，重点关注如何使用remap机制，通过page找到VMA的

static void rmap_walk_anon(struct page *page, struct rmap_walk_control *rwc,
		bool locked)
{
	struct anon_vma *anon_vma;
	pgoff_t pgoff_start, pgoff_end;
	struct anon_vma_chain *avc;

	if (locked) {
		anon_vma = page_anon_vma(page);
	} else {
        /* 若此时未加锁，则加锁 */
		anon_vma = rmap_walk_anon_lock(page, rwc);
	}

	pgoff_start = page_to_pgoff(page);
	pgoff_end = pgoff_start + hpage_nr_pages(page) - 1;
    /* 遍历anon_vma->rb_root红黑树，得到AVC */
	anon_vma_interval_tree_foreach(avc, &anon_vma->rb_root, pgoff_start, pgoff_end) {
        /* 通过AVC拿到VMA */
		struct vm_area_struct *vma = avc->vma;
		unsigned long address = vma_address(page, vma);

		if (rwc->invalid_vma && rwc->invalid_vma(vma, rwc->arg))
			continue;

        /* 解除用户PTE */
		if (!rwc->rmap_one(page, vma, address, rwc->arg))
			break;
		if (rwc->done && rwc->done(page))
			break;
	}

	if (!locked)
		anon_vma_unlock_read(anon_vma);
}

疑问

  • KSM是怎么实现反向映射的?

参考资料

http://www.wowotech.net/memory_management/reverse_mapping.html

Cc又菜又帅
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
linux 反向映射
03-21
介绍了反向映射的由来，重要性。 以及一些设计反向映射的技术。
【内核】Linux 2.6 内存反向映射机制 Reverse Mapping
weixin_34082695的博客
12-24 348
1、为什么要使用反向映射 　　物理内存的分页机制，一个PTE（Page Table Entry）对应一个物理页，但一个物理页可以由多个PTE与之相对应，当该页要被回收时，Linux2.4的做法是遍历每个进程的所有PTE判断该PTE是否与该页建立了映射，如果建立则取消该映射，最后无PTE与该相关联后才回收该页。该方法显而易见效率极低，因为其为了查找某个页的关联PTE遍历了所有的PTE，我们不禁想：...
Linux内存管理：反向映射机制（匿名页，文件页和ksm页）
RToax
11-20 2108
目录 1.反向映射的发展 2.反向映射应用场景 3.匿名页的反向映射 4.文件页的反向映射 5.ksm页的反向映射 6.总结 7.作者简介 8.推荐阅读 为了系统的安全性，Linux内核将各个用户进程运行在各自独立的虚拟地址空间，用户进程之间通过虚拟地址空间相互隔离，不能相互访问，一个进程的奔溃不会影响到整个系统的异常也不会干扰到系统以及其他进程运行。 Linux内核可以通过共享内存的方式为系统节省大量内存，例如fork子进程的时候，父子进程通过只读的方式共享所有的私有页面。再比如.
Linux2.6的页面回收机制
飞在天空的鱼
04-18 1508
为什么要进行页面回收操作系统管理内存中的物理页面，同时也担任着内存分配的职责。应用程序可以通过内存分配函数向操作系统申请物理页面；在使用完这些物理页面之后，应用程序可以通过相应的内存释放函数释放这些物理页面。但是，对于内存中的某些物理页面来说，页面的使用者并不会主动释放它们，如果这些物理页面一直被占用而得不到释放，那么无论计算机上可用的物理内存有多少，物理内存迟早都有被用完的时候。所以，对于无法被主动释放的物理页面来说，操作系统就需要提供相应的功能去释放它们，Linux 中提供页面回收算法这样一种机制进行页
linux内存的反向映射
lzhf1122的博客
03-28 688
逆向映射是指在已知page frame的情况下（可能是PFN、可能是指向page descriptor的指针，也可能是物理地址，内核有各种宏定义用于在它们之间进行转换），找到映射到该物理页面的虚拟页面们。由于一个page frame可以在多个进程之间共享，因此逆向映射的任务是把分散在各个进程地址空间中的所有的page table entry全部找出来。之所以建立逆向映射机制主要是为了方便页面回收。
Linux内核反向映射机制的详细资料说明
07-07
Cheetah，曾为U-boot社区和Linux内核社区提交过若干补丁，主要从事Linux相关系统软件开发工作，负责...而与本文相关的是反向映射，它主要是通过物理页来找到共享这个页的所有的vma对应的页表项，这是本文讨论的问题。
Linux2.6内存管理反向映射分析与改进.pdf
09-06
【Linux2.6内核内存管理】Linux 2.6版本的内核在内存管理方面引入了诸多改进，其中反向映射(reverse mapping)技术是一个关键的创新。反向映射技术增强了内存管理的效率，使得Linux系统能够更有效地处理内存分配和...
Linux内核内存管理技术分享
08-27
该技术涉及到计算机体系结构、MMU、Cache、DMA、EPT、虚拟地址空间布局、伙伴系统、SLAB、用户空间地址布局、匿名页和文件页、缺页异常、反向映射、内存规整、OOM、KSM、巨型页、Userfaultfd等方面。 hardware和...
包含LINUX内核同步、信号、内存、调度、文件系统.rar
07-12
虚拟内存管理 包括 : 反向映射 , KSM , MMAP 映射 , 缺页中断 , 共享内存 , 进程虚拟地址空间管理 , 页面回收 ; 物理内存管理 包括 : 页面分配器 等 ; 内存管理 位于 下图 Linux 内核整体架构图 中的 内核空间 ;
疯狂内核之——Linux虚拟内存
05-30
1.4 Linux内存布局 21 1.5 内核空间和用户空间 23 1.5.1 初始化临时内核页表 24 1.5.2 永久内核页表的初始化 32 1.5.3 第一次进入用户空间 41 1.5.4 内核映射机制实例 44 1.6 固定映射的线性地址 48 1.7 高端内存...
linux内存管理笔记(三十八）----反向映射
奇小葩
03-13 2181
用户进程在使用虚拟内存的过程中，从虚拟内存页面映射到物理内存页面时，PTE保留这个记录，page数据结构中的_mapcout记录有多少个用户PTE映射到物理页面。用户PTE是指用户进程地址空间到物理页面的建立映射的PTE，不包括内核地址空间映射到物理页面所产生的PTE，其要面对以下的问题 有些页面需要迁移 有些页面长时间不适用，需要交换到磁盘 在交换之前，必须找到哪个进程适用这个页面，然后解除这些映射的用户PTE 一个物理页面可以同时被多个进程的虚拟内存映射，但是一个虚拟页面同时只能映射到一个物理页面
Linux内存管理 (12)反向映射RMAP
hbcbgcx的博客
03-21 315
https://www.cnblogs.com/arnoldlu/p/8335483.html 专题：Linux内存管理专题 关键词：RMAP、VMA、AV、AVC。 所谓反向映射是相对于从虚拟地址到物理地址的映射，反向映射是从物理页面到虚拟地址空间VMA的反向映射。 RMAP能否实现的基础是通过struct anon_vma、struct anon_vma_chain和sturct vm_are...
Linux内存管理：(五)反向映射RMAP
最新发布
qq_58538265的博客
12-29 1239
文章说明：Linux内核版本：5.0架构：ARM64参考资料及图片来源：《奔跑吧Linux内核》
linux那些事之反向映射RMAP
weixin_42730667的博客
03-23 1267
内核中经常出现一个page 被多个虚拟进程使用，例如fork是子进程会继承父进程的页面，同样在开始时拥有相同的页面，此时一个page会对应多个进程VMA: 在共享内存场景中，一个物理内存也会被多个进程同时使用。针对上述场景，如果是一个文件被多个进程使用，实际上只对应一个物理页，此时page为page cache，page结构中可以通过page中的struct address_space *mapping结构进行管理。 而针对匿名页由于没有对应具体文件，但是又经常需要用到根据page查找到对应的所有正
linux内存管理-反向映射
faxiang1230的专栏
06-11 1516
为什么需要反向映射 正向映射是通过虚拟地址根据页表找到物理内存，反向映射就是通过物理地址找到哪些虚拟地址使用它。 应用场景： 页面回收 compaction 匿名页的反向映射 文件页的反向映射 struct anon_vma { } struct anon_vma_chain } ...
Linux 匿名页的反向映射
weixin_30429201的博客
02-03 209
我们知道LINUX的内存管理系统中有”反向映射“这一说，目的是为了快速去查找出一个特定的物理页在哪些进程中被映射到了什么地址，这样如果我们想把这一页换出（SWAP），或是迁移（Migrate）的时候，就能相应该更改所有相关进程的页表来达到这个目的。 1、为什么要使用反向映射 　　物理内存的分页机制，一个PTE（Page Table Entry）对应一个物理页，但一个物理页可以由多个PT...
Linux内存管理 -反向映射RMAP
m0_74282605的博客
03-15 397
匿名页面实际的断开映射操作在rmap_walk_anon中进行的，可以看出从struct page、到struct anon_vma、到struct anon_vma_chain、到struct vm_area_struct的关系。struct rmap_walk_control中的rmap_one实现是try_to_unmap_one，最终调用page_remove_rmap()和page_cache_release()来断开PTE映射关系。一个是struct anon_vma_chain，简称AVC。
linux内存源码分析 - 内存回收(匿名页反向映射)
华的专栏
08-23 1823
概述 　　看完了内存压缩，最近在看内存回收这块的代码，发现内容有些多，需要分几块去详细说明，首先先说说匿名页的反向映射，匿名页主要用于进程地址空间的堆、栈、还有私有匿名共享内存(用于有亲属关系的进程)，这些匿名页所属的线性区叫做匿名线性区，这些线性区只映射内存，不映射具体磁盘上的文件。匿名页的反向映射对匿名页的回收起到了很大的作用。为了进行内存回收，内核为每个zone管理区的内存页维护了5个
Linux内存逆向映射（reverse mapping）技术的前世今生
mabin2005的专栏
10-19 849
本文来自于微信公众号Linux阅码场一、前言数学大师陈省身有一句话是这样说的：了解历史的变化是了解这门学科的一个步骤。今天，我把这句话应用到一个具体的Linux模块：了解逆向映射的最好的方法是了解它的历史。本文介绍了Linux内核中的逆向映射机制如何从无到有，如何从笨重到轻盈的历史过程，通过这些历史的演进过程，希望能对逆向映射有更加深入的理解。二、基础知识在切入逆向映射的历史之前，我们还是简单看看一些基础的概念，这主要包括两个方面：一个是逆向映射的定义，另外一个是引入逆向映射的原因。1、什么是逆向映射（re

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值