当某些数据时我们经常需要查询且短时间内不会更改的数据时,我们常常使用到缓存,这样不仅可以加快我们的查询效率,还能够大大降低数据库的访问压力,目前,我们使用最多的就是redis作为我们的缓存。但是redis的缓存有三个问题,就是我们熟知的缓存击穿,缓存穿透和缓存雪崩。
缓存穿透
缓存穿透是指客户端请求的数据在缓存中和数据库中都不存在,这样缓存永远不会生效,这些请求都会到达数据库。
如果有恶意用户,使用大量线程并发访问这些不存在的数据,这样所有的请求都会到达数据库,数据库顶不住访问压力,就会崩掉。
我们常用的解决方案就是:
①缓存空对象
②使用布隆过滤器(有误判的风险)
这里使用第一种方法来进行演示
场景:商铺信息已提前加载进入redis中
@Service
public class ShopServiceImpl extends ServiceImpl<ShopMapper, Shop> implements IShopService {
@Autowired
private StringRedisTemplate stringRedisTemplate;
@Override
public Result queryById(Long id) {
// 1、根据 Id 查询 Redis
String shopJson = stringRedisTemplate.opsForValue().get(RedisConstants.CACHE_SHOP_KEY + id);
// 2、判断 shopJSON 是否为空
if (StrUtil.isNotBlank(shopJson)) {
// 3、存在,直接返回
Shop shop = JSONUtil.toBean(shopJson, Shop.class);
return Result.ok(shop);
}
// 增加对空字符串的判断
if(shopJson != null){
return Result.fail("店铺不存在!");
}
// 4、不存在,查询数据库
Shop shop = getById(id);
// 5、不存在,返回错误
if(shop == null){
// 店铺不存在时,缓存空值
stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY + id, "", RedisConstants.CACHE_NULL_TTL, TimeUnit.MINUTES);
return Result.fail("店铺不存在!");
}
// 6、存在,写入 Redis
stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY + id, JSONUtil.toJsonStr(shop), RedisConstants.CACHE_SHOP_TTL, TimeUnit.MINUTES);
// 7、返回
return Result.ok(shop);
}
}
缓存雪崩
缓存雪崩是指在同一时段大量的缓存 key 同时失效或者 Redis 服务宕机,导致大量请求到达数据库,给数据库带来巨大压力。
解决办法:
①对不同的key设置不同的过期时间,防止同时失效
②使用redis集群,提高系统的高可用性
③添加多级缓存
缓存击穿
缓存击穿问题也叫热点 key 问题,就是一个被高并发访问并且缓存重建业务较复杂的 key 突然失效了,无效的请求访问会在瞬间给数据库带来巨大压力。
解决办法:
①使用互斥锁
假设线程 1 查询缓存未命中,那么线程 1 就需要进行缓存重建工作,为了避免其他线程重复线程1 的工作,那么线程 1 就必须要先获取互斥锁,只有获取锁成功的线程才能够重建缓存数据。重建完成后,线程 1 就会将数据写入到缓存中,并将锁释放。如果在线程 1 将数据写入缓存之前,其他线程涌入,这个时候,其他线程查询缓存依然是未命中的,那么这些线程为了重建缓存,也必须先获取到互斥锁,但是,由于此时线程 1 未释放锁,所以其他线程就会获取锁失败,一旦获取锁失败,一般程序处理是让线程休眠一会儿,然后再重试(包括查询缓存以及获取互斥锁),如果线程 1 执行缓存重建时间过长,就会导致其他线程一直处于阻塞等待重试的状态,效率过低。
②逻辑过期
当我们在向 Redis 中存储数据时,不再为 key 设置过期时间(TTL),但是,需要在 value 中额外添加一个逻辑时间(以当前时间为基础,加上需要设置的过期时间),也就是说,这个 key 一旦存入到 Redis 中,就会永不过期。假设线程 1 在查询缓存时发现逻辑时间已经过期,为了避免出现多个线程重建缓存,线程 1 就会去获取互斥锁,一旦线程 1 获取互斥锁成功,线程 1 就会开启一个独立线程,由独立线程去查询数据库重建缓存数据,以及写入缓存重置逻辑过期时间等操作,一旦完成操作,独立线程就会将互斥锁释放掉。线程 1 在开启独立线程后,会直接将过期数据返回。而在独立线程释放锁之前,缓存中的数据都是过期数据。当其他线程在此之前涌入程序时,去查询缓存获取到依旧是逻辑时间过期的数据,那么这些线程就会试图获取互斥锁,此时由于独立线程还未释放锁,所以会获取锁失败,一旦失败,这些线程就会将查询到的旧数据返回。只有当独立线程执行结束,其他线程才会从缓存中获取到新数据。该方法不保证数据的强一致性,而且有额外的内存消耗。
//互斥锁解决
@Service
public class ShopServiceImpl extends ServiceImpl<ShopMapper, Shop> implements IShopService {
@Autowired
private StringRedisTemplate stringRedisTemplate;
@Override
public Result queryById(Long id) {
// 解决缓存穿透
// Shop shop = queryWithPassThrough(id);
// 互斥锁解决缓存击穿
Shop shop = queryWithMetux(id);
if(shop == null){
return Result.fail("店铺不存在!");
}
// 7、返回
return Result.ok(shop);
}
/**
* 解决缓存击穿问题
* */
public Shop queryWithMetux(Long id){
// 1、根据 Id 查询 Redis
String shopJson = stringRedisTemplate.opsForValue().get(RedisConstants.CACHE_SHOP_KEY + id);
// 2、判断 shopJSON 是否为空
if (StrUtil.isNotBlank(shopJson)) {
// 3、存在,直接返回
Shop shop = JSONUtil.toBean(shopJson, Shop.class);
return shop;
}
// 增加对空字符串的判断
if(shopJson != null){
return null;
}
// 获取互斥锁
String lockKey = RedisConstants.LOCK_SHOP_KEY + id;
Shop shop = null;
try {
// 获取互斥锁
boolean isLock = tryLock(lockKey);
// 如果获取失败,则重新获取
if (!isLock) {
Thread.sleep(30);
return queryWithMetux(id);
}
// 4、不存在,查询数据库
shop = getById(id);
// 5、不存在,返回错误
if (shop == null) {
// 店铺不存在时,缓存空值
stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY + id, "", RedisConstants.CACHE_NULL_TTL, TimeUnit.MINUTES);
return null;
}
// 6、存在,写入 Redis
stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY + id, JSONUtil.toJsonStr(shop), RedisConstants.CACHE_SHOP_TTL, TimeUnit.MINUTES);
}catch (InterruptedException e){
throw new RuntimeException(e);
} finally {
// 释放互斥锁
unLock(lockKey);
}
return shop;
}
/**
* 解决缓存穿透
* */
public Shop queryWithPassThrough(Long id){
// 1、根据 Id 查询 Redis
String shopJson = stringRedisTemplate.opsForValue().get(RedisConstants.CACHE_SHOP_KEY + id);
// 2、判断 shopJSON 是否为空
if (StrUtil.isNotBlank(shopJson)) {
// 3、存在,直接返回
Shop shop = JSONUtil.toBean(shopJson, Shop.class);
return shop;
}
// 增加对空字符串的判断
if(shopJson != null){
return null;
}
// 4、不存在,查询数据库
Shop shop = getById(id);
// 5、不存在,返回错误
if(shop == null){
// 店铺不存在时,缓存空值
stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY + id, "", RedisConstants.CACHE_NULL_TTL, TimeUnit.MINUTES);
return null;
}
// 6、存在,写入 Redis
stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY + id, JSONUtil.toJsonStr(shop), RedisConstants.CACHE_SHOP_TTL, TimeUnit.MINUTES);
return shop;
}
// 获取锁
private boolean tryLock(String key){
Boolean isTrue = stringRedisTemplate.opsForValue().setIfAbsent(key, "1", RedisConstants.LOCK_SHOP_TTL, TimeUnit.SECONDS);
return BooleanUtil.isTrue(isTrue);
}
// 释放锁
private void unLock(String key){
stringRedisTemplate.delete(key);
}
@Override
@Transactional
public Result update(Shop shop) {
Long id = shop.getId();
if(id == null){
return Result.fail("店铺 id 不能为空!");
}
updateById(shop);
stringRedisTemplate.delete(RedisConstants.CACHE_SHOP_KEY + id);
return Result.ok();
}
}
//逻辑过期解决
@Service
public class ShopServiceImpl extends ServiceImpl<ShopMapper, Shop> implements IShopService {
@Autowired
private StringRedisTemplate stringRedisTemplate;
@Autowired
private CacheClient cacheClient;
private static final ExecutorService CACHE_REBUILD_EXECUTOR = Executors.newFixedThreadPool(10);
@Override
public Result queryById(Long id) {
// 解决缓存穿透
// Shop shop = cacheClient.queryWithPassThrough(CACHE_SHOP_KEY, id, Shop.class, this::getById, RedisConstants.CACHE_SHOP_TTL, TimeUnit.MINUTES);
// 互斥锁解决缓存击穿
// Shop shop = queryWithMetux(id);
// 使用逻辑过期时间解决缓存击穿问题
// Shop shop = queryWithLogicalExpire(id);
Shop shop = cacheClient.queryWithLogicalExpire(CACHE_SHOP_KEY, id, Shop.class, this::getById, RedisConstants.CACHE_SHOP_TTL, TimeUnit.MINUTES);
if(shop == null){
return Result.fail("店铺不存在!");
}
// 7、返回
return Result.ok(shop);
}
public Shop queryWithLogicalExpire(Long id){
// 1、根据 Id 查询 Redis
String shopJson = stringRedisTemplate.opsForValue().get(RedisConstants.CACHE_SHOP_KEY + id);
// 2、判断 shopJSON 是否为空
if (StrUtil.isBlank(shopJson)) {
// 3、存在,直接返回
return null;
}
// 命中,需要先把 json 反序列化为对象
RedisData redisData = JSONUtil.toBean(shopJson, RedisData.class);
LocalDateTime expireTime = redisData.getExpireTime();
Shop shop = JSONUtil.toBean((JSONObject) redisData.getData(), Shop.class);
// 判断是否过期
if(expireTime.isAfter(LocalDateTime.now())){
return shop;
}
// 已过期,需要缓存重建
// 获取互斥锁
String lockKey = RedisConstants.LOCK_SHOP_KEY + id;
boolean isLock = tryLock(lockKey);
if (isLock) {
// 开辟独立线程
CACHE_REBUILD_EXECUTOR.submit(() -> {
try {
// 缓存重建
this.saveShop2Redis(id, 20L);
}catch (Exception e) {
throw new RuntimeException(e);
} finally {
unLock(lockKey);
}
});
}
// 6、存在,写入 Redis
stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY + id, JSONUtil.toJsonStr(shop), RedisConstants.CACHE_SHOP_TTL, TimeUnit.MINUTES);
return shop;
}
}