缓存算法 - FIFO、LFU、LRU（思路梳理）

前言

FIFO 核心原则：如果一个数据最先进入缓存中，则应该最早淘汰掉。
LFU 核心原则：如果一个数据在最近一段时间内使用次数很少，那么在将来一段时间内被使用的可能性也很小。
LRU 核心原则：如果一个数据在最近一段时间没有被访问到，那么在将来它被访问的可能性也很小。

FIFO（First in First out）

需求分析

get(key)：如果Cache中存在该key，则返回对应的value值，否则，返回-1。

set(key,value)：如果Cache中存在该key，则重置value值；如果不存在该key，则将该key插入到到Cache中，若Cache已满，则淘汰最早进入Cache的数据。

思路梳理

利用一个双向链表保存数据，当来了新的数据之后便添加到链表末尾，如果Cache存满数据，则把链表头部数据删除，然后把新的数据添加到链表末尾。在访问数据的时候，如果在Cache中存在该数据的话，则返回对应的value值；否则返回-1。如果想提高访问效率，可以利用hashmap来保存每个key在链表中对应的位置。

LFU（Least Frequently Used）

需求分析

get(key)：如果Cache中存在该key，则返回对应的value值，否则，返回-1。

set(key,value)：如果Cache中存在该key，则重置value值；如果不存在该key，则将该key插入到到Cache中，若Cache已满，则淘汰最少访问的数据。

思路梳理

最简单的一种设计思路就是利用一个数组存储数据项，用hashmap存储每个数据项在数组中对应的位置，然后为每个数据项设计一个访问频次，当数据项被命中时，访问频次自增，在淘汰的时候淘汰访问频次最少的数据。这样一来的话，在插入数据和访问数据的时候都能达到O(1)的时间复杂度，在淘汰数据的时候，通过选择算法得到应该淘汰的数据项在数组中的索引，并将该索引位置的内容替换为新来的数据内容即可，这样的话，淘汰数据的操作时间复杂度为O(n)。

LRU（Least Recently Used）

需求分析

get(key)：如果key在cache中，则返回对应的value值，否则返回-1。

set(key,value):如果key不在cache中，则将该(key,value)插入cache中（注意，如果cache已满，则必须把最近最久未使用的元素从cache中删除）；如果key在cache中，则重置value的值。

思路梳理

利用双向链表和hashmap。当需要插入新的数据项的时候，如果新数据项在链表中存在（一般称为命中），则把该节点移到链表头部，如果不存在，则新建一个节点，放到链表头部，若缓存满了，则把链表最后一个节点删除即可。在访问数据的时候，如果数据项在链表中存在，则把该节点移到链表头部，否则返回-1。这样一来在链表尾部的节点就是最近最久未访问的数据项。

总结

1. LFU和LRU算法的不同之处，LRU的淘汰规则是基于访问时间，而LFU是基于访问次数的。
2. 使用hashmap，可提高访问效率。
3. 基于访问次数淘汰（如LFU），使用数组更简单。
4. 基于访问时间淘汰，使用双向链表更简单。