大数据算法课程笔记8a：page replacement algorithm

本节课主要是介绍page replacement algorithm的相关算法，包括offline和online。

---

1. 问题简介

这个是体系结构里面的经典问题，内存小、硬盘大，内存快、硬盘慢。所以CPU从内存中读取数据，而内存从硬盘中读取数据。那我们希望内存读取硬盘的次数尽量减少，这样可以减少程序的运行时间，而减少次数的算法主要依赖于page replacement algorithm。

所谓page fault，即内存中不存在所需数据而引入的错误，为了解决这个错误就需要从硬盘中读取数据到内存中。所以每个page fault都对应于一次硬盘读取，耗费大量时间。读到的数据需要覆盖内存中的某些现有数据，如何选择被替代的内存中的数据就是page replacement algorithm处理的问题。

（内存和硬盘的关系和cache与内存的关系一样，都是使用类似的思想）

2. Clairvoyant/offline algorithm

算法可以使用未来信息，即可以知道整个请求序列。（这个要求难以在实际中满足）

clairvoyant 算法的最优结果也是所有算法所能满足的最优算法，定义：Given a page arrival sequence $z$, $OPT(z)$ represents the minimum number of page faults by the best clairvoyant algorithm knowing the sequence $z$ of page arrivals.

2.1. Furthest in the future

FIF算法是一种clairvoyant 算法，并且满足$Cost(FIF,z)=OPT(z)$，即FIF算法的结果是最优的。

算法简介：每次选取最晚被请求的元素进行替换。具体地，设第$i$次请求$r_i$造成了一次page fault，对于cache中的每个元素$c_j$，定义$f_j=\arg\min_k\{r_k==c_j\wedge k>i\}$，则选择cache中的第$j=\arg\max_kf_k$个元素$c_j$进行替换。

例子：

request|	cache elements|	page fault|	evicted item|
a	-,-,-	True	-
b	a,-,-	True	-
c	a,b,-	True	-
d	a,b,c	True	c
a	a,b,d	False
e	a,b,d	True	d
b	a,b,e	False
a	a,b,e	False
c	a,b,e	True	a
e	c,b,e	False
d	c,b,e	True	c
b	d,b,e	False

2.2. FIF 最优性的证明

参考资料：

https://blog.henrypoon.com/blog/2014/02/02/proof-of-the-farthest-in-future-optimal-caching-algorithm/

https://cseweb.ucsd.edu/classes/wi12/cse202-a/lecture4-final.pdf

基本思想：大框架是归纳法，结合分类讨论法。

设FIF的replacement schedule为SFF，而对于任意满足请求序列的schedule S，我们需要证明$\text{#fetches}(SFF)\le \text{#fetches}(S)$。所谓schedule，记录了算法的所有操作，例如insert a、evict b，通常一个page fault对应于一对insert和evict。 schedule 的一个子集是reduced schedule，即lazy schedule，只有当request某元素的时候才会insert该元素。一个事实是：对于任意schedule $S$, 永远存在一个reduced schedule $S^*$，满足$\text{#fetches}(S^*)\le \text{#fetches}(S)$。

基于以上的定义以及事实，我们开始证明FIF的最优性。明确目标以及归纳法的假设：

目标：$\forall S, \text{#fetches}(SFF)\le \text{#fetches}(S)$，即对于所有可以满足request的reduced schedule $S$，均满足硬盘读取数不小于$SFF$的读取数。

归纳法的假设：$\exists S_j$, such that $S_j$ makes the same decisions as $SFF$ for requests from $r_1$ to $r_j$, and $\text{#fetches}(S_j)\le \text{#fetches}(S)$.

Base Case: 令$S_0=S$, 则有$\text{#fetches}(S_0)\le \text{#fetches}(S)$，并且$S_0=SFF$ for requests from $r_1$ to $r_0$ (NULL)

假设存在$S_k$满足 $S_k$ makes the same decisions as