memcached缓存失效时的高并发访问问题解决



        memcached一般用于在访问一些性能相对低下的数据接口时（如数据库），为了保证这些数据接口的稳定性，加上memcached以减少访问次数，保证这些数据接口的健壮性。一般memcached的数据都是定时失效的，当数据失效时一般会再次去访问取数据接口，然后将其更新至memcached中。这时就会有一个问题，当某个数据失效时，恰好同时有大量的客户端访问该数据，这时这些客户端都会发现该数据失效，然后都会去调用数据接口去取数据更新，这自然就瞬间地使数据接口失去了memcached的保护，有可能造成系统的故障。

        那么如何解决这个问题呢？

        第一种：数据不失效，定时更新。即数据存放在memcached中永不失效，但是会有一个定时任务，定时的去更新这个数据。

        第二种：既然该问题的症结在于在数据失效时，会有多个客户端去调用数据接口，那么只要想办法在数据失效时只有一个客户端能访问数据接口即可，要做到这点，自然的想法是加锁：如下：

object value = memcached.get(key);
if(null==value){
        synchronized{
               value = memcached.get(key);
               if(null==value){
                      value = db.get(key);
                      memcached.set(key,value);
                }
        }
}
return value;

        这样做的前提是你必须保证这个函数的类是单例的，显然在服务器集群中不可能有这样的场景，那么如果在群集间加锁呢？解铃还需系铃人，既然大家共用一个memcached服务器，那么就使用memcached来实现这个锁机制。即当客户端取不到数据时，先在memcached中设置一个flag表明当前客户端在更新该数据，当其它客户端也来访问时发现失效后就等待直到更新好数据为目。

object value = memcahced.get(key);
if(null=value){
    if(memcached.add(key)){
        value = db.get();
        memcached.set(key,value);
    }else{
        while(true){
            Thread.sleep(50);
             value=memcached.get(key);
             if(null!=value){
                  break;
             }
        }
    }
}
return value;

          memcached中的add方法是实现该功能的关键，该方法是判断memcached中是否有某个key存在，如果存在则返回false,否则返回true,并添加该key值，如果没有该方法，显然我们只能再一次的通过get 和set去设置该值，显然这样做是线程不安全的，有可能有多个客户端同时取为空，同时去取数据并更新。

        上述的方法存在的缺陷时，一旦数据失效，所有客户端要等待某个客户端更新完毕，这样势必增加服务器压力，可以通过在key失效之间的一段时间就触发更新的方式来解决这个问题。

另外可参考：http://blog.csdn.net/hengyunabc/article/details/20735701