LRU Cache

什么是 LRU Cache

LRU是Least Recently Used的缩写，意思是最近最少使用，它是一种Cache替换算法。

什么是 Cache？狭义的Cache指的是位于CPU和主存间的快速RAM， 通常它不像系统主存那样使用 DRAM技术，而使用昂贵但较快速的SRAM技术。 广义上的Cache指的是位于速度相差较大的两种 硬件之间， 用于协调两者数据传输速度差异的结构。除了CPU与主存之间有Cache， 内存与硬盘 之间也有Cache，乃至在硬盘与网络之间也有某种意义上的Cache── 称为Internet临时文件夹或 网络内容缓存等。

Cache的容量有限，因此当Cache的容量用完后，而又有新的内容需要添加进来时， 就需要挑选 并舍弃原有的部分内容，从而腾出空间来放新内容。LRU Cache 的替换原则就是将最近最少使用 的内容替换掉。其实，LRU译成最久未使用会更形象， 因为该算法每次替换掉的就是一段时间内 最久没有使用过的内容。

LRU 的 OJ

. - 力扣（LeetCode）

LRU Cache 的实现

实现LRU Cache的方法和思路很多，但是要保持高效实现O(1)的put和get，那么使用双向链表和 哈希表的搭配是最高效和经典的。使用双向链表是因为双向链表可以实现任意位置O(1)的插入和 删除，使用哈希表是因为哈希表的增删查改也是O(1)。

class LRUCache {
public:
    LRUCache(int capacity) 
    {
         _capacity = capacity;
    }

    int get(int key) {
        auto hashit = _hashmap.find(key);
        
        // 如果找到了
        if (hashit != _hashmap.end()) {
            auto listit = hashit->second;
            pair<int, int> kv = *listit;
            
            // LRU更新过程：
            // 将指向这个元素的迭代器删除，将更新后的元素插入 _list 头部
            // 同时 _hashmap 中更新 这个元素的迭代器
            _list.erase(listit);
            _list.push_front(kv);
            _hashmap[key] = _list.begin();

            return kv.second;
        }
        else {
            return -1;
        }
    }

    void put(int key, int value) {
        auto hashit = _hashmap.find(key);
        if (hashit == _hashmap.end()) {

            // 如果此时 Cache 满了
            if (_list.size() >= _capacity) {

               // LRU更新过程：
               // 将指向这个元素的迭代器从 _hashmap 中删除
               // 同时这个元素将会从 _list 中删除 (尾删 _list)
                _hashmap.erase(_list.back().first);
                _list.pop_back();
            }
            _list.push_front(make_pair(key, value));
            _hashmap[key] = _list.begin();
        }
        else {
            auto listit = hashit->second;
            pair<int, int> kv = *listit;
            kv.second = value;
            _list.erase(listit);
            _list.push_front(kv);
            _hashmap[key] = _list.begin();
        }
    }

private:
    // 存放键值对的数据结构：双向链表
    list<pair<int, int>> _list;
    
    // Cache容量
    size_t _capacity;

    // 为了提高搜索效率的数据结构：哈希表
    // _list的迭代器存入哈希表中，使得寻找_list某个元素的效率达到O(1)
    unordered_map<int, list<pair<int, int>>::iterator> _hashmap;    

};

// 在 _list 中，最新或者最常用的数据存放在[头部]，每次查询或存入都会引起一次 _list 更新
// 这样的话，Cache需要清理的时候，只需要把 _list [尾部]的数据清理即可