LRU Cache 最近最少使用算法

什么是 LRU Cache
LRU Cache 算法是 Least Recently Used，也就是最近最少使用算法。

对于一个操作系统来说，我们的缓存是有限的，所以有的时候我们必须要舍弃掉一些 object 来增加当前程序的运行效率。LRU Cache 算法的概念是：当缓存空间满了的时候，将最近最少使用的数据从缓存空间中删除以增加可用的缓存空间来缓存新的数据。这个算法的核心是一个缓存列表，当我们在缓存中的数据被访问的时候，这个数据就会被提到列表的头部，这样的话列表尾部的数据就是不会经常被访问的数据。当缓存空间不足的时候，就会删除列表尾部的数据来提升程序运行效率。

设计一个 LRU Cache
大多数注重算法能力的公司都会考相关的数据结构设计，LRU Cache 这个经典问题首当其冲，今天我就带着大家来实现一下它：

LRU Cache 的核心是什么？
LRU cache 相当于要维护一个跟时间顺序相关的数据结构，那么能找到最早更新元素的数据结构有 queue、heap 和 LinkedList 这几种：

queue ：队列是先进先出的数据结构，我们确实知道哪一个元素是先进去的，哪一个元素是后进去的。
heap ：我们可以通过维护一个丢入时间 time 来确定哪一个元素是先进去的，哪一个元素是后进去的。
LinkedList ：链表有头部和尾部，我们自然而然可以利用头部来始终存放最新的元素（即最近使用的那个元素）
选择哪一种？
我们知道一旦某个中间进去的元素突然被调用后，我们就应该将它的位置更新到头部。频繁更新位置对于 queue 来说时间消耗太多，因此排除；
有时候我们要删除某一个很久不用的元素。如果用 heap 的话我们可能需要遍历所有的元素才能找到 time 为最早的那个节点，除非我们同时维护一个最小堆。但是每次更新元素位置还是需要 O(lgN) 的时间来调整，远不如 LinkedList 快；
LinkedList 对于插入删除元素只需要 O(1) 的时间，但是我们还需要能够快速地访问到指定需要被更新的元素。这一点 LinkedList 要用 O(n) 遍历，但是我们可以通过一个字典来对应 key 和 node 的信息，这样就可以用 O(1) 的时间来找到对应元素了；
再进一步，由于要随时删除指定的 node，我们还需要将该 node 前的 node 与其后方的 node 相连，所以会有一个找指定 node 前面一个 node 的需求。双向链表 Doubly LinkedList 就可以用 O(1) 时间来实现这个需求，所以我们确定使用双向链表 Doubly LinkedList 来完成一个LRU Cache。
确定了要使用的数据结构之后，我们来捋一捋接下来的思路：

1、LRU Cache 整体设计：
LRU Cache 里面维护一个 cache 字典对应 key 和 node 的信息。一个 cap 表示最大容量，一个双向链表，其中 head.next 是 most recently （最近使用）的 node，tail.prev 是 least recently（最近最少使用） 的 node（即 LRU 容量满了会被删除的那个 node）。

2、对于 get 方法：
如果 key 在 cache 字典中，说明 node 在链表中
根据 key 从 cache 字典中拿到对应的 node，从双向链表中删除这个 node，再向双向链表中重新插入这个 node（插入逻辑包含了更新到最新的位置）
如果不在直接返回 -1
3、对于 put 方法：
如果 key 在 cache 字典中，说明 node 在链表中
根据 key 从 cache 字典中拿到对应的 node，从双向链表中删除这个 node，再向双向链表中重新插入这个 node（插入逻辑包含了更新到最新的位置）
如果 key 不在 cache 字典中，说明是一个新的 node
如果此时容量还没满的话：
生成新 node，插入双向链表中，同时放入 cache 中
如果此时容量满了的话：
从双向链表中删除 tail.prev，即 least recently 的 node
从 cache 中删除这个 node 的信息
生成新 node，插入双向链表中，放入 cache 中
其中 逻辑3 中如果 key 不在 cache 字典中的这一段代码可以优化，

生成新 node，插入链表中，放入 cache 中这一步是重复的。

其中 逻辑3 中如果 key 不在 cache 字典中的这一段代码可以优化。

优化的原因：生成新 node，插入链表中，放入 cache 中这一步是重复