线程安全的高效LRU

线程安全的高效LRU

前言

这两天面试的时候遇见了一个问题，就是LRU如何保证线程安全的情况下又能高效的使用，允许牺牲一些数据的精确性。面试中过于紧张，脑子比较乱，没有想到一个比较好的解决方案。特写此文，不仅是给出一个解决方案，更是对自己的一种警示，要时刻保持冷静的头脑。

线程安全

LRU是通过HashMap和链表合二为一构成的，在Java中可以重写LinkHashMap的方法来实现LRU，但是这个集合并不保证线程安全。
线程安全的思路可以通过ConcurrentHashMap上去考虑，他在1.8版本之前是通过减小锁粒度的思想来实现高并发，并提出了段的概念，Java在1.8版本之后虽然取消了段的概念，但是在实现上依然采用的是减小锁粒度思想来实现高并发，这个粒度变得更小了，为每一个桶分配了一个锁。

高效LRU

HashMap部分确实可以采用ConcurrentHashMap的实现去达到线程安全，但是对于维持LRU的双向链表来说，对该链表上的操作性能还是比较低下的，虽然对不同段的节点进行操作可以使用不同的锁，可以实现更高的并发量，但是对于维护LRU还是需要对head和tail进行加锁，这样还是会导致线程之间的串行执行。
可以借鉴减小锁粒度的思想来实现LRU，即在每一个段中各自维护相应的LRU链表，这样就可以在不同的段真正实现隔离，实现高并发。