LRU LFU 概念、底层原理及其实现 超详细~

0. 前置提要

        本篇约为8650字，阅读完需要约40~60分钟。主要介绍页面置换算法,LRU和LFU的原理及其实现，对应leetcode140和460，如果能给个赞就更好了^-^。

1.从内存置换算法说起

        计算机的运行的程序和数据保存在内存中，内存的空间是有限的，所运行的程序可能需要新的数据，而数据不在内存，在磁盘(硬盘)中。 CPU 访问的页面在物理内存时，便会产生一个缺页中断，请求操作系统将所缺页调入到物理内存。

        对于要新加入内存的页面，需要一定的算法来确定把哪个页面剔除出去给新的要加进来的页面让位。所以，页面置换算法的功能是，当出现缺页异常，需调入新页面而内存已满时，选择被置换的物理页面，也就是说选择⼀个物理页面换出到磁盘，然后把需要访问的页面换入到物理页。

那其算法目标则是，尽可能减少页面的换入换出的次数，常见的页面置换算法有如下几种【1】：

        最佳页面置换算法（OPT）

        先进先出置换算法（FIFO）

        最近最久未使用的置换算法（LRU）

        时钟页面置换算法（Lock）

        最不常用置换算法（LFU）

1.1 最佳页面置换算法（OPT）

        最佳页面置换算法基本思路是，置换在「未来」最⻓时间不访问的页面。所以，该算法实现需要计算内存中每个逻辑页面的「下⼀次」访问时间，然后比较，选择未来最长时间不访问的页面。我们举个例⼦，假设⼀开始有 3 个空闲的物理页，然后有请求的页面序列，那它的置换过程如下图【图源自小林coding】：

        在这个请求的页面序列中，缺页共发生了 7 次（空闲页换入 3 次 + 最优页面置换 4 次），页面置换共发生了 4 次。这很理想，但是实际系统中无法实现，因为程序访问页面时是动态的，我们是无法预知每个页面在「下⼀次」访问前的等待时间。所以，最佳页面置换算法作用是为了衡量你的算法的效率，你的算法效率越接近该算法的效率，那么说明你的算法是高效的。

1.2 先进先出置换算法（FIFO）

        既然我们⽆法预知页面在下⼀次访问前所需的等待时间，那我们可以选择在内存驻留时间而后南昌的页面进行中置换，这个就是「先进先出置换」算法的思想。还是以前⾯的请求的⻚⾯序列作为例子，假设使用先进先出出置换算法，则过程如下图：

在这个请求的页面序列中，缺页共发生了 10 次，页面置换共发⽣了 7 次，跟最佳页面置换算法比较起来，性能明显差了很多。

1.3 最近最久未使用的置换算法（LRU）

        最近最久未使用（LRU）的置换算法的基本思路是，发生缺页时，选择最长时间没有被访问的页面进行置 换，也就是说，该算法假设已经很久没有使用的页面很有可能在未来较长的⼀段时间内仍然不会被使用。 这种算法近似最优置换算法，最优置换算法是通过「未来」的使用情况来推测要淘汰的页面，而 LRU 则是 通过「历史」的使用情况来推测要淘汰的页面。 还是以前⾯的请求的页面序列作为例子，假设使用最近最久未使用的置换算法，则过程如下图：

        在这个请求的页面序列中，缺页共发⽣了 9 次，页面置换共发⽣了 6 次，跟先进先出置换算法⽐较起 来，性能提高了⼀些。虽然 LRU 在理论上是可以实现的，但代价很高。为了完全实现 LRU，需要在内存中维护⼀个所有页面的 链表，最近最多使用的页面在表头，最近最少使用的页面在表尾。 困难的是，在每次访问内存时都必须要更新「整个链表」。在链表中找到⼀个页面，删除它，然后把它移 动到表头是⼀个⾮常费时的操作。 所以，LRU 虽然看上去不错，但是由于开销比较大，实际应用中比较少使用。

1.4 时钟页面置换算法（Lock）

        时钟页面置换算法就可以两者兼得，它跟 LRU 近似，又是对 FIFO 的⼀种改进。 该算法的思路是，把所有的页面都保存在⼀个类似钟面的「环