一、如何实现LRU缓存淘汰算法
1、缓存
缓存:一种提高数据读取性能的技术,比如常见的CPU缓存、数据库缓存、浏览器缓存等
缓存的大小有限,当缓存被用满时,哪些数据应该被清理出去,哪些数据应该被保留?
由缓存淘汰策略来决定,常见的策略有三种:先进先出策略FIFO(First In,First Out)、最少使用策略LFU(Least Frequently Used)、最近最少使用策略LRU(Least Recently Used)
2、链表结构与数组结构的区别
- 数组需要一块连续的内存空间来存储,对内存的要求比较高
如果申请一个100MB大小的数组,当内存中没有连续的、足够大的存储空间时,即便内存的剩余总可用空间大于100MB,仍然会申请失败 - 链表并不需要一块连续的内存空间,它通过“指针”将一组零散的内存块串联起来使用,如果申请的是100MB大小的链表,不会有问题
### 3、常见的链表结构
单链表、双向链表和循环链表
- 单链表
链表通过指针将一组零散的内存块串联在一起,内存块称为链表的“结点”,为了将所有的结点串起来,每个链表的结点包括存储数据和记录链上的下一个结点的地址,记录下个结点地址的指针叫作后继指针next
头结点:记录链表的基地址,可以遍历得到整条链表
尾结点:指针不是指向下一个结点,而是指向一个空地址NULL,表示链表上最后一个结点
数据的查找、插入和删除操作
在链表中插入或者删除一个数据,并不需要为了保持内存的连续性而搬移结点,因为链表的存储空间本身就不是连续的,所以在链表中插入和删除一个数据是非常快速的
链表随机访问第k个元素就没有数组那么高效,因为链表中的数据并非连续存储的,所以无法像数组那样,根据首地址和下标,通过寻址公式就能直接计算出对应的内存地址,而是需要根据指针一个结点一个结点地依次遍历,直到找到相应的结点,链表随机访问的性能没有数组好,需要O(n)的时间复杂度 - 循环链表
与单链表唯一的区别就在尾结点,单链表的尾结点指针指向空地址,表示最后的结点,而循环链表的尾结点指针是指向链表的头结点
循环链表的优点:从链尾到链头比较方便,当要处理的数据具有环型结构特点时,就特别适合采用循环链表。比如著名的约瑟夫问题,尽管用单链表也可以实现,但是用循环链表实现的话,代码就会简洁很多 - 双向链表
支持两个方向,每个结点不止有一个后继指针next指向后面的结点,还有一个前驱指针prev指向前面的结点
双向链表需要额外的两个空间来存储后继结点和前驱结点的地址,如果存储同样多的数据,双向链表要比单链表占用更多的内存空间,虽然两个指针比较浪费存储空间,但可以支持双向遍历,这样双向链表操作更加灵活
从结构上来看,双向链表可以支持O(1)时间复杂度的情况下找到前驱结点,正是这样的特点,也使双向链表在某些情况下的插入、删除等操作都要比单链表简单、高效 - 双向循环链表
4、链表的操作
- 删除操作
- 删除结点中“值等于某个给定值”的结点
从头结点开始一个一个依次遍历对比,直到找到值等于给定值的结点,然后再通过我前面讲的指针操作将其删除
单纯的删除操作时间复杂度是O(1),但遍历查找的时间是主要的耗时点,对应的时间复杂度为O(n),所以总时间复杂度为O(n) - 删除给定指针指向的结点
找到了要删除的结点,但是删除某个结点q需要知道其前驱结点,而单链表并不支持直接获取前驱结点,所以,为了找到前驱结点,我们还是要从头结点开始遍历链表,直到p->next=q,说明p是q的前驱结点
双向链表中的结点已经保存了前驱结点的指针,不需要像单链表那样遍历。所以单链表删除操作需要O(n)的时间复杂度,而双向链表只需要在O(1)的时间复杂度
同理,如果希望在链表的某个指定结点前面插入一个结点,双向链表可以在O(1)时间复杂度,而单向链表需要O(n)的时间复杂度
除了插入、删除操作有优势之外,对于一个有序链表,双向链表的按值查询的效率也要比单链表高一些。因为,可以记录上次查找的位置p,每次查询时,根据要查找的值与p的大小关系,决定是往前还是往后查找,所以平均只需要查找一半的数据
java中LinkedHashMap的实现原理就用到了双向链表这种数据结构
5、用空间换时间的设计思想
当内存空间充足的时候,可以选择空间复杂度相对较高、但时间复杂度相对很低的算法或者数据结构来提高速度,相反,如果内存比较紧缺,就要反过来用时间换空间的设计思路
缓存实际上就是利用了空间换时间的设计思想,如果我们把数据存储在硬盘上,会比较节省内存,但每次查找数据都要询问一次硬盘,会比较慢。但如果我们通过缓存技术,事先将数据加载在内存中,虽然会比较耗费内存空间,但是每次数据查询的速度就大大提高了
总结:对于执行较慢的程序,可以通过消耗更多的内存(空间换时间)来进行优化;而消耗过多内存的程序,可以通过消耗更多的时间(时间换空间)来降低内存的消耗
6、链表与数组区别
数组 | 链表 |
---|---|
连续的内存空间,借助CPU的缓存机制,预读数组中的数据,访问效率更高 | 内存中并不是连续存储,对CPU缓存不友好,没办法有效预读 |
大小固定,占用整块连续内存空间。数组过大,导致“内存不足;数组过小,不够用只能再申请一个更大的内存空间,把原数组拷贝进去,耗时 | 链表本身没有大小的限制,支持动态扩容 |
如果对内存的要求高则使用数组,因为链表中的每个结点都需要消耗额外的存储空间去存储一份指向下一个结点的指针,所以内存消耗会翻倍。而且,对链表进行频繁的插入、删除操作,还会导致频繁的内存申请和释放,容易造成内存碎片,如果是Java语言,就有可能会导致频繁的GC(Garbage Collection,垃圾回收)
7、回答如何基于链表实现LRU缓存淘汰算法?
维护一个有序单链表,越靠近链表尾部的结点是越早之前访问的,当有一个新的数据被访问时,我们从链表头开始顺序遍历链表
- 如果此数据之前已经被缓存在链表中了,我们遍历得到这个数据对应的结点,并将其从原来的位置删除,然后再插入到链表的头部
- 如果此数据没有在缓存链表中,又可以分为两种情况:
如果此时缓存未满,则将此结点直接插入到链表的头部;
如果此时缓存已满,则链表尾结点删除,将新的数据结点插入链表的头部