xcache本地缓存的设计（二）

四、 退出策略
一个缓存，它所存放的元素不可能无限制的增长，xcache限制了缓存元素的数量。如果放入缓存元素时，缓存已经满了，那我们将采用一定的策略从现有的缓存中选出一个缓存元素退出，再将新的缓存元素放入。现在支持三种策略，FIFO（先进先出），LFU（最不经常使用），LRU（最近最久未使用）。见下图。

 

OutPolicyFactory：退出策略工厂，它负责生产不同的退出策略，供缓存在满的时候使用。

OutPolicy：退出策略接口，它定义了一个选举方法，选一个元素退出。见下代码。

/** * 退出策略 * @author enychen Aug 10, 2009 */ public interface OutPolicy { /** * 从存储器中选举一个元素退出 * @param store 存储器 * @return 退出元素 */ Element vote(Store store); }

AbstractOutPolicy：抽象退出策略，它实现了选举方法，定义了一个比较抽象方法让子类实现。见下代码。

/** * 抽象退出策略 * @author enychen Aug 10, 2009 */ public abstract class AbstractOutPolicy implements OutPolicy { /** 随机数 */ protected static final Random R = new Random(); /* * (non-Javadoc) * @see com.wg.xcache.out.OutPolicy#vote(com.wg.xcache.store.Store) */ public Element vote(Store store) { // 获取候选人 Element[] candidates = this.getCandidates(store.getAll()); // 获取退出元素 Element outElement = this.getOutElement(candidates); return outElement; } /** * 比较两个元素，选出一个退出 * @param element1 元素1 * @param elements 元素2 * @return 退出元素 */ public abstract Element compare(Element element1, Element element2); }

在vote方法中，我们看到先从存储器所有元素中选出几个候选人，再从候选人中选出一个元素。
如果存储器中元素很多，考虑到效率，不可能一个一个比较，所以选几个候选人比较合理。如果大于0个元素，小于10000个元素，最多10个候选人；如果大于10000个元素，最多100个候选人。
虽然储存器中元素是没有规则排列，可以随机取出一定数量的候选人；但为了体现公平原则，这里采用了分段随机抽取。如果有8002个元素，候选人有10个，间隔为800。见下坐标。
0----800----1600----2400----3200----4000----4800--------8000---8002
在每个间隔区间内，随机抽取1个候选人。

 

FifoPolicy：实现了先进先出策略。见下代码。

public Element compare(Element element1, Element element2) { return (element1.getCreatedTime() <= element2.getCreatedTime()) ? element1 : element2; }

LfuPolicy：实现了最不经常使用策略。见下代码。

public Element compare(Element element1, Element element2) { return (element1.getAccessTimes() <= element2.getAccessTimes()) ? element1 : element2; }

 

LruPolicy：实现了最近最久未使用策略。见下代码。

public Element compare(Element element1, Element element2) { long now = System.currentTimeMillis(); long interval1 = (element1.getLastAccessTime() > 0L) ? now - element1.getLastAccessTime() : now - element1.getCreatedTime(); long interval2 = (element2.getLastAccessTime() > 0L) ? now - element2.getLastAccessTime() : now - element2.getCreatedTime(); return (interval1 >= interval2) ? element1 : element2; }

在实现各策略中，元素的统计信息派上了用场。

 

五、 缓存配置
为了灵活使用缓存，肯定要支持配置的，CacheFactory要根据配置生产一套定制的缓存。xcache暂支持properties文件的配置方式。见下示例xcache.properties。

xcache.caches = default,test1 cacheConfig.default.maxAmount = 10 cacheConfig.test1.maxAmount = 10 cacheConfig.test1.deleteExpireElementDelay = 60000 cacheConfig.test1.deleteExpireElementInterval = 60000 cacheConfig.test1.logCacheStatDelay = 30000 cacheConfig.test1.logCacheStatInterval = 30000 cacheConfig.test1.storeMedia = MEMORY cacheConfig.test1.outPolicyType = FIFO

xcache.caches：定义了缓存的名称，多个缓存之间用逗号分隔。

cacheConfig.缓存名.maxAmount：缓存最大元素数量，默认10000。

cacheConfig.缓存名.deleteExpireElementDelay：删除过期缓存元素延迟，单位毫秒。缓存初始化后，延迟一定时间后执行删除过期缓存元素。

cacheConfig.缓存名.deleteExpireElementInterval：删除过期缓存元素间隔，单位毫秒。下一次执行删除过期缓存元素的时间间隔。

cacheConfig.缓存名.logCacheStatDelay：记录缓存统计信息延迟，单位毫秒。缓存初始化后，延迟一定时间后执行记录缓存统计信息。

cacheConfig.缓存名.logCacheStatInterval：记录缓存统计信息间隔，单位毫秒。下一次执行记录缓存统计信息的时间间隔。

cacheConfig.缓存名.storeMedia：存储媒介（枚举：MEMORY），默认内存。

cacheConfig.缓存名.outPolicyType：退出策略类型（枚举：FIFO、LFU、LRU）。

六、 结语
通过两篇文章讲解了xcache本地缓存的设计，xcache已经具备了一个缓存的基本功能。下一步就是要实现分布式。想要对分布式缓存研究的朋友请加入一起讨论，我也希望能得到高人的指点。

欢迎访问我的开源空间：http://code.google.com/p/xcache-j/