架构设计（缓存）

---

架构设计（缓存）

          

               

                            

缓存

     

缓存分类

                          

# 客户端缓存
浏览器发起请求收到响应后，将部分响应数据缓存在本地，
后续发起相同请求时，直接读取本地缓存数据，不需要发起远程调用

# CDN缓存：content delivery network(内容网络分发)
CDN介于客户端、服务器之间，缓存服务器数据(一般是图片、文件等静态数据)

# 应用层缓存
存储在服务器内存、jvm内存中，数据量一般较小

# 数据层缓存
数据库缓存，一般缓存常用的数据，可存储的数据量很大
一般使用nosql数据库(redis、memcached)存储缓存数据

            

常用缓存策略：LFU、LRU

# LFU(LEAST FREQUENTLY USED)：删除最不经常使用缓存
当存储空间不足，需要删除缓存时，优先删除最不经常使用的缓存

# LRU(LEAST RECENTLY USED)：删除最不经常使用的缓存
当存储空间不足，需要删除缓存时，优先删除最少使用的缓存

            

缓存常见问题

# 缓存穿透及解决
大量的请求在缓存中查找不到数据，频繁的访问数据库，给数据库造成很大请求压力
* 缓存空值：数据查询结果如果为空，将空值缓存
* 布隆过滤器过滤：如果数据的key变更不频繁，可先用布隆过滤器过滤请求，避免恶意攻击

# 热点缓存及解决
某个热点数据访问量很大，超过缓存数据库的处理能力
* 对热点数据拆分，将其分散到多个缓存服务器上

# 缓存无底洞及解决
使用了很多缓存数据库，同一个业务请求查找的缓存数据分散在很多不同的数据库上。造成查询较慢
* 考虑对同一类业务数据打标签，将其集中存放在几台服务器上

# 缓存击穿及解决
某个缓存刚好过期，大量的请求直接访问后端数据库，给数据库造成很大压力
* 热点缓存不过期：不给热点缓存设置过期时间，更新缓存的时候自动更新
* 使用分布式锁更新缓存：某个请求获得分布式锁，其余请求等待从缓存中查询结果

# 缓存雪崩及解决
大量缓存过期，大量请求访问后端数据库
* 缓存服务器使用集群部署，避免由于缓存数据库单点故障导致缓存雪崩
* 给缓存设置不同的过期时间或者不设置过期时间，避免缓存集中过期导致缓存血崩

            

                     

                            

动静分离

    

用户请求数据时，静态数据从缓存中获取，动态数据从后端服务器获取

                          

静态数据：每次请求，响应数据几乎不变（如图片、js文件等）

动态数据：每次请求，需要查询最新的数据，这些数据不能被缓存

         

 静态数据、动态数据拆分

# 单次请求中包含动态数据、静态数据
{
  "dynamic":"...",
  "static":"..."
}

# 将单个请求拆分为2个请求，分别获取静态数据、动态数据，
# 将静态数据缓存，随后获取静态数据直接从缓存中获取
# 如果静态数据发生变更，直接更新缓存
{
  "dynamic":"..."     //动态请求
}

{
  "static":"..."      //静态请求，响应数据缓存(静态数据变更后，需要更新缓存)
}