什么是缓存穿透？如何避免？什么是缓存雪崩？何如避免？

在现代计算系统中，缓存是提高系统性能和响应速度的重要技术。然而，缓存系统在实际应用中可能会面临一些挑战，其中“缓存穿透”和“缓存雪崩”是两个常见的问题。本文将介绍这两个概念及其解决方案。

什么是缓存穿透？

缓存穿透 指的是查询请求绕过缓存直接访问后端数据库的情况。通常，缓存系统根据 key 存储数据，如果缓存中不存在某个 key，系统会请求后端数据库。恶意用户或程序可能故意请求不存在的 key，这样的请求会直接打到数据库上，造成不必要的负担。

如何避免缓存穿透？

1、缓存空值：
对于查询结果为空的数据，仍然可以将空值存入缓存，并设置一个较短的过期时间。这可以有效减少后续对同样无效数据的数据库请求。可以选择在数据实际插入数据库时清理缓存，以确保缓存数据的准确性。

2、使用布隆过滤器：
布隆过滤器是一种空间效率高的概率型数据结构，用于快速判断某个 key 是否可能存在。将所有可能存在的 key 存入布隆过滤器中，查询时首先检查布隆过滤器的结果。如果布隆过滤器显示 key 不存在，直接返回结果，不再查询数据库。

3、请求限制与验证：
对请求进行频率限制或使用验证码等措施，以防止恶意用户发起大量无效请求。这可以减少对数据库的压力，并保护系统的稳定性。

什么是缓存雪崩？

缓存雪崩 指的是在缓存大量失效的情况下，所有请求突然涌向后端数据库，导致数据库负载骤增，可能引发系统崩溃。这通常发生在缓存服务器重启或大量缓存项在同一时间点过期时。

如何避免缓存雪崩？

1、设置过期时间的随机化：
对缓存中的数据设置不同的过期时间，使缓存项的失效时间尽量分散。这可以避免大量缓存项在同一时间点失效，从而平衡数据库负载。

2、使用缓存预热：
在系统启动或缓存清理后，通过预加载数据的方式将数据重新填充到缓存中，避免在缓存失效后突然对数据库造成压力。

3、加锁机制：
在缓存失效后，通过加锁机制控制对数据库的访问。例如，针对同一个 key 只允许一个线程去查询数据库和更新缓存，其余线程可以等待或使用旧的缓存数据。这可以避免大量并发请求同时访问数据库。

4、二级缓存：
使用多层缓存结构，如设置主缓存和备用缓存。当主缓存失效时，可以使用备用缓存（如拷贝缓存）来减少对数据库的直接访问。主缓存的失效时间可以设置为短期，备用缓存的失效时间可以设置为长期。

总结

缓存穿透和缓存雪崩是缓存系统中常见的挑战，但通过合理的设计和策略，这些问题可以得到有效的缓解。利用缓存空值、布隆过滤器、请求限制、随机化过期时间、缓存预热、加锁机制以及二级缓存等手段，可以显著提高缓存系统的稳定性和性能。