系统缓存设计

最新推荐文章于 2024-07-03 15:24:05 发布

快乐的霖霖

最新推荐文章于 2024-07-03 15:24:05 发布

阅读量1.3k

点赞数

分类专栏：分布式与大数据系统

本文链接：https://blog.csdn.net/chdhust/article/details/66974601

版权

本文探讨了在高并发系统中，如何面对系统缓存或存储层可能出现的错误。通过将错误资源视为不可用，防止线程挂起导致系统整体瘫痪。在这样的情况下，降级策略变得至关重要，例如当个性化推荐服务失效时，可以通过提供热点数据来降级，以避免前端显示空白。

摘要由CSDN通过智能技术生成

系统缓存设计

1. 缓存穿透的解决方法
缓存穿透是指查询一个根本不存在的数据，缓存层和存储层都不会命中，但是出于容错的考虑，如果从存储层查不到数据则不写入缓存层。缓存穿透将导致不存在的数据每次请求都要到存储层去查询，失去了缓存保护后端存储的意义。
缓存穿透问题可能会使后端存储负载加大，由于很多后端存储不具备高并发性，甚至可能造成后端存储宕掉。通常可以在程序中分别统计总调用数、缓存层命中数、存储层命中数，如果发现大量存储层空命中，可能就是出现了缓存穿透问题。
造成缓存穿透的基本有两个。第一，业务自身代码或者数据出现问题，第二，一些恶意攻击、爬虫等造成大量空命中，下面我们来看一下如何解决缓存穿透问题。
缓存穿透的解决方法：1）缓存空对象；2）布隆过滤器拦截器。

2. 缓存雪崩问题解决
由于缓存层承载着大量请求，有效的保护了存储层，但是如果缓存层由于某些原因整体不能提供服务，于是所有的请求都会达到存储层，存储层的调用量会暴增，造成存储层也会挂掉的情况。缓存雪崩的英文原意是 stampeding herd（奔逃的野牛），指的是缓存层宕掉后，流量会像奔逃的野牛一样，打向后端存储。

预防和解决缓存雪崩问题，可以从以下三个