JavaWeb 什么是缓存击穿，缓存击穿的解决方案学习总结

一、什么是缓存击穿？

缓存击穿在JavaWeb应用中是一个常见的问题，它特指在一个高并发的场景下，如果一个缓存键的生命周期结束（即缓存过期）并且这个键对应的数据在数据库中也不存在或者访问量极高，那么大量的并发请求会因为无法在缓存中找到数据而直接穿透到后端数据库，从而对数据库造成极大的压力，可能导致数据库连接耗尽、响应变慢甚至服务崩溃。

1.1 解决缓存击穿问题的方法有以下几种：

1. 互斥锁机制：
   当检测到缓存未命中且需要从数据库加载数据时，可以先尝试获取一个分布式锁（如利用Redis的SETNX命令），确保只有一个线程能够执行数据库查询操作，其他线程则等待锁释放。获取到锁的线程负责从数据库加载数据并写入缓存，然后释放锁，等待的线程在锁释放后可以从缓存中读取数据。这样可以避免大量并发请求同时冲击数据库。

2. 逻辑过期时间：
   给缓存数据设置一个逻辑过期时间，而不是完全依赖于实际的缓存过期策略。当数据被访问时，先检查数据是否已经逻辑过期，如果是，则异步或者在当前线程中更新缓存，同时返回旧数据给客户端。这种方法可以保证即使在缓存失效瞬间，也能返回有效的数据，减少了对数据库的直接访问压力。

3. 布隆过滤器：
   对于查询不存在的数据情况，可以使用布隆过滤器提前过滤掉肯定不存在的请求，减少对数据库的无效查询。

4. 空值缓存：
   即使查询结果为空（数据不存在或已被删除），也将空值（或者特定标记如null）写入缓存，并设置一个较短的过期时间（如几分钟）。这样，后续的相同请求在短时间内可以直接从缓存中得到“不存在”的结果，而不需要再次查询数据库。

5. 热点数据预热：
   对于访问频次极高的数据，在其即将过期前主动刷新，确保数据始终存在于缓存中，减少过期带来的影响。

6. 限流与降级：
   在极端并发情况下，可以通过限流技术控制到达数据库的请求数量，或者对某些非核心服务进行降级处理，优先保障系统的稳定性。

7. 使用缓存代理层：
   引入专门的缓存代理层（如Twemproxy、Codis等），这些代理层可以在应用服务器和缓存服务之间提供额外的保护，实现更细粒度的控制和负载均衡，有助于分散请求压力，减少直接对数据库的冲击。

8. 增加本地缓存（或Near Cache）：
   在应用服务器本地维护一个小容量、高速缓存，存储热点数据的副本。当远程缓存发生击穿时，本地缓存可以作为第二层防护，减少对外部缓存和数据库的依赖，提升响应速度。

9. 资源预留与隔离：
   在系统设计时，为数据库访问分配独立的资源池或采用资源隔离策略，确保在缓存击穿等极端情况下，数据库访问请求不会耗尽所有资源，影响其他服务的正常运行。

10. 智能路由与负载均衡：
    实现更智能的请求路由逻辑，根据缓存状态和后端数据库的实时负载情况，动态调整请求的分发策略，避免集中访问导致的数据库压力过大。

11. 监控与预警系统：
    建立完善的缓存命中率、数据库访问频率等关键指标的监控体系，并配置实时预警机制。一旦发现缓存击穿的迹象，立即触发报警并自动采取应对措施，比如自动延长热点数据的缓存有效期，或者临时增加缓存容量。

12. 分级缓存策略：
    实施多级缓存策略，例如L1（快速但小容量）、L2（较慢但大容量）等，每一级缓存承担不同的角色和过期策略，这样即使最外层缓存失效，内部层级的缓存仍能提供保护，减轻数据库压力。
    类似于电脑硬件采取的中采取的缓存策略

13. 热点数据备份与灾备方案：
    为极其热点的数据设置备份缓存节点或跨地域缓存，即使主缓存出现问题，也能迅速切换到备用缓存，保证服务连续性。

14. 异步更新缓存：
    当数据发生变化时，不是立即更新缓存，而是通过消息队列异步处理。这样，即使更新操作导致缓存短暂失效，也不会立即产生大量的数据库查询请求，消息队列可以平滑地处理这些更新操作，减少瞬间压力。

15. 细粒度缓存管理：
    对数据进行更细粒度的切分和缓存管理，避免因为单个大键的失效导致整个服务受到影响。通过合理设计缓存键和分区，可以使得即使部分缓存失效，也不至于影响全局服务。

16. 渐进式缓存填充：
    对于首次访问且未命中的数据，采用渐进式填充策略，即首次只从数据库加载部分数据到缓存，随着访问频次增加逐步完善缓存内容，这样可以减少单次数据库查询的负担，同时保证热点数据的快速可用。

17. 使用Redis的lua脚本：
    利用Redis的lua脚本功能，可以在服务器端执行原子操作，如检查并设置缓存值。这可以在不阻塞其他命令执行的同时，安全地处理缓存不存在时的数据库加载逻辑，减少并发问题导致的击穿风险。

18. 使用缓存代理或中间件：
    部署专门的缓存代理服务，如Memcached Proxy或Redis Cluster Proxy，它们可以提供更细粒度的控制和优化，如自动重试、负载均衡、故障转移等，增强缓存层的稳定性和效率，减少直接对数据库的冲击。

19. 健康检查与自动恢复机制：
    定期对缓存服务进行健康检查，一旦发现缓存服务异常，立即触发自动恢复流程，包括但不限于重启服务、重新初始化缓存数据等，确保系统能够快速从故障状态中恢复过来，减少缓存不可用的时间窗口。