缓存穿透/缓存雪崩/缓存击穿

缓存设计流程图

@startuml MemCache

    start
    :请求;
    if (Mem 存在 ?) then (Mem 存在)
        :返回Key,Value;
    else if (Mem 不存在 ?) then (Mem 不存在)
        ' 缓存穿透
        if (存储层查询 存在 ?) then (存储层存在)
            :构建缓存;
            :添加Mem;
            :返回Key,Value;
        else if (存储层查询 不存在?) then (存储层不存在)
            :返回不存在;
        else (存储层查询失败)
            :返回失败;
        endif
    else (Mem服务访问失败)
        ' 缓存雪崩
        if (存储层查询 存在 ?) then (存储层存在)
            :构建缓存;
            :添加Mem;
            :返回Key,Value;
        else if (存储层查询 不存在?) then (存储层不存在)
            :返回不存在;
        else (存储层查询失败)
            :返回失败;
        endif
    endif

    end
@enduml

缓存穿透

缓存穿透指的是查询大量不存在的key，导致所有的请求直接访问存储层。一般通过，在缓存中增加(Key, NIL)，等到下次访问的时候，可以直接返回；或者是通过布隆过滤器来避免直接访问存储层。

缓存雪崩

缓存雪崩出现在访问内存服务失败的情况（redis挂了）或者大量的key同时到了有效期被删除，导致大量请求直接访问存储层。可以通过高可用、有效期设置为随机值且尽量不一样。

缓存击穿

重建缓存速度较慢，导致大量的线程在重建，耗费大量的资源。解决方法：只允许一个线程在重建缓存，可以理解成在访问的时候重建，下次访问同一个Key的时候，如果没有缓存重建完毕，只能等待，重建完成后，再从缓存访问。