LRU Cache

什么是LRU Cache

LRU是Least Recently Used的缩写，意思是最近最少使用，它是一种Cache替换算法。 什么是Cache？狭义的Cache指的是位于CPU和主存间的快速RAM， 通常它不像系统主存那样使用DRAM技术，而使用昂贵但较快速的SRAM技术。 广义上的Cache指的是位于速度相差较大的两种硬件之间， 用于协调两者数据传输速度差异的结构。除了CPU与主存之间有Cache， 内存与硬盘之间也有Cache，乃至在硬盘与网络之间也有某种意义上的Cache── 称为Internet临时文件夹或网络内容缓存等。

Cache的容量有限，因此当Cache的容量用完后，而又有新的内容需要添加进来时， 就需要挑选并舍弃原有的部分内容，从而腾出空间来放新内容。LRU Cache 的替换原则就是将最近最少使用的内容替换掉。其实，LRU译成最久未使用会更形象， 因为该算法每次替换掉的就是一段时间内最久没有使用过的内容。

LRU Cache的实现

实现LRU Cache的方法和思路很多，但是要保持高效实现O(1)的put和get，那么使用双向链表和哈希表的搭配是最高效和经典的。使用双向链表是因为双向链表可以实现任意位置O(1)的插入和删除，使用哈希表是因为哈希表的增删查改也是O(1)。

代码实现

class LRUCache {
public:
    LRUCache(int capacity) 
        : _capacity(capacity)
    {}
    
    
    int get(int key) {
        auto ret = _hashMap.find(key);
        if(ret != _hashMap.end())
        {
            // 更新key对应位置的值
            LtIter it = ret->second;

            // 1.erase+push_front 更新迭代器，原迭代器失效
            // 2.splice 转移点
            _LRUList.splice(_LRUList.begin(),_LRUList,it);

            return it->second;
        }
        else
        {
            return -1;
        }
    }
    
    void put(int key, int value) {
        // 1.新增
        // 2.更新
        auto ret = _hashMap.find(key);
        if(ret == _hashMap.end())
        {
            // 满了，先删除LRU的数据
            if(_capacity==_hashMap.size())
            {
                pair<int,int> back=_LRUList.back();
                _hashMap.erase(back.first);
                _LRUList.pop_back();
            }
                
            _LRUList.push_front(make_pair(key,value));
            _hashMap[key]=_LRUList.begin();
        }
        else
        {
            // 更新key对应值的位置            
            LtIter it = ret->second;
            it->second=value;

            // 1. erase+push_front 更新迭代器，原迭代器失效
            // 2. splice 转移结点
            _LRUList.splice(_LRUList.begin(),_LRUList,it);
        }       
    }

private:
    typedef list<pair<int,int>>::iterator LtIter;

    // hash 做到查找更新的效率是O（1）
    unordered_map<int,LtIter> _hashMap;

    // LRU 假设尾部数据就是最近最少使用
    list<pair<int,int>> _LRUList;
    size_t _capacity;
};