线程安全的高效LRU
前言
这两天面试的时候遇见了一个问题,就是LRU如何保证线程安全的情况下又能高效的使用,允许牺牲一些数据的精确性。面试中过于紧张,脑子比较乱,没有想到一个比较好的解决方案。特写此文,不仅是给出一个解决方案,更是对自己的一种警示,要时刻保持冷静的头脑。
线程安全
LRU是通过HashMap和链表合二为一构成的,在Java中可以重写LinkHashMap的方法来实现LRU,但是这个集合并不保证线程安全。
线程安全的思路可以通过ConcurrentHashMap上去考虑,他在1.8版本之前是通过减小锁粒度的思想来实现高并发,并提出了段的概念,Java在1.8版本之后虽然取消了段的概念,但是在实现上依然采用的是减小锁粒度思想来实现高并发,这个粒度变得更小了,为每一个桶分配了一个锁。
高效LRU
HashMap部分确实可以采用ConcurrentHashMap的实现去达到线程安全,但是对于维持LRU的双向链表来说,对该链表上的操作性能还是比较低下的,虽然对不同段的节点进行操作可以使用不同的锁,可以实现更高的并发量,但是对于维护LRU还是需要对head和tail进行加锁,这样还是会导致线程之间的串行执行。
可以借鉴减小锁粒度的思想来实现LRU,即在每一个段中各自维护相应的LRU链表,这样就可以在不同的段真正实现隔离,实现高并发。