LRU Cache

1. 什么是LRU Cache

LRU是Least Recently Used的缩写，意思是最近最少使用，它是一种Cache替换算法。 什么是Cache？狭义的Cache指的是位于CPU和主存间的快速RAM， 通常它不像系统主存那样使用DRAM技术，而使用昂贵但较快速的SRAM技术。 广义上的Cache指的是位于速度相差较大的两种硬件之间， 用于协调两者数据传输速度差异的结构。除了CPU与主存之间有Cache， 内存与硬盘之间也有Cache，乃至在硬盘与网络之间也有某种意义上的Cache── 称为Internet临时文件夹或网络内容缓存等。

Cache的容量有限，因此当Cache的容量用完后，而又有新的内容需要添加进来时， 就需要挑选并舍弃原有的部分内容，从而腾出空间来放新内容。LRU Cache 的替换原则就是将最近最少使用的内容替换掉。其实，LRU译成最久未使用会更形象， 因为该算法每次替换掉的就是一段时间内最久没有使用过的内容。

LRU是最近最少使用页面置换算法(Least Recently Used),也就是首先淘汰最长时间未被使用的页面!

LFU是最近最不常用页面置换算法(Least Frequently Used),也就是淘汰一定时期内被访问次数最少的页!

LRU的作用就是性能优化

2. LRU Cache的实现

错误想法：
很多人想的是get()使用unordered_map结构，put就是要list<pair<k,v>>结构，如果使用了，就把其放在链表的头部，那么自然链表的尾部就是最近最久未被使用的，就可以进行删除，但是这样的设计是有问题的！虽然get()的时间复杂度满足了O(1),但是put却达不到O(1),假设此时LRU Cache的capacity是3，分别put（1,1），put（2,2），put（3，3），那么此时如果我想要访问key为2的值，但是此时并不知道他在列表中的具体位置。那么就需要遍历整个链表，那么时间复杂度就变为了O(N).

所以需要将双向链表和哈希表进行结合使用，就可以解决对应的key值在链表中的具体位置。

class LRUCache {
public:
    LRUCache(int capacity) {
        _capacity = capacity;
    }
    
    int get(int key) {
        //如果密钥 (key) 存在于缓存中，则获取密钥的值（总是正数），否则返回 -1。
        auto ret = _hashmap.find(key);
        if(ret != _hashmap.end())
        {
            //保证LRU机制，把刚get的数据放到链表的头上
            //说明找到了，应该把这个值从该位置提取到链表的头部位置
            list<pair<int,int>>::iterator pos = ret->second;
            pair<int,int> kv = *pos;
            _lrulist.erase(pos);
            _lrulist.push_front(kv);
            _hashmap[key] = _lrulist.begin();
            return kv.second;
        }
        else
        {
            return -1;
        }
    }
    
    void put(int key, int value) {
        //对于put来说，首先就是要清楚，是要插入新的，还是更新
        auto ret = _hashmap.find(key);
        if(ret != _hashmap.end())
        {
            //说明在里面找到了，那么就是更新
            list<pair<int,int>>::iterator pos = ret->second;
            _lrulist.erase(pos);
            _lrulist.push_front(make_pair(key,value)); //这里的value是新的
            //此时对于hashmap来说，这个key值所对应的迭代器也应该更新
            _hashmap[key] = _lrulist.begin();
        }
        else
        {
            //没有找到，那就进行插入新的
            //但是这里还需要再次区分1.你的cache已经满了 2.你的cache没有满
            if(_lrulist.size() == _capacity)
            {
                //情况一，已经满了
                //需要将链表的尾部进行删除，hashmap中也对应删除
                //然后在分别在list和hash中进行插入
                pair<int,int> back = _lrulist.back();
                _lrulist.pop_back();
                _hashmap.erase(back.first);
            }

            _lrulist.push_front(make_pair(key,value));
            _hashmap.insert(make_pair(key,_lrulist.begin()));
        }
    }
    private:
        //之所以第二个参数存储的是迭代器，就是为了能够在链表中找到key值所在的位置
        unordered_map<int,list<pair<int,int>>::iterator> _hashmap;
        list<pair<int,int>> _lrulist;
        size_t _capacity;
};