高性能系统架构设计之：多级缓存

​

前言

        为了提高系统的性能，一般会引入“缓存机制”，将部分热点数据存入缓存中，用空间换取时间，以达到快速响应的目的。

        其实，缓存的应用远远不止存在于服务层（传统的Redis缓存），从客户端发起请求开始，经过域名服务器（DNS） → 内容分发服务器（CDN） → 反向代理服务器（Nginx），然后到达我们的分布式系统（ES），再经过分布式缓存服务（Redis、memcache） → 线程内缓存（Spring-cache、guava-cache），最后到达数据库（RDS），整个链路中每个节点都可以使用缓存，这就是所谓的“多级缓存”。其中缓存策略，算法也是层出不穷，今天就带大家走进缓存。

相关文章：

• 关于：Ngnix的搭建，参数，复杂均衡，反向代理和调优讲解【篇】（专题汇总）
• Guava Cache 原理分析与最佳实践

•  Redis 3.0 的六种缓存淘汰策略

参考文章：

• 性能为王：微服务架构中的多级缓存设计

---

正文

一、两种方式

1.1 传统缓存方式

        考虑到 mysql 的性能瓶颈，传统方案中，只在服务层做一级缓存。

• 当请求到达 tomcat 后，先去 Redis 中获取缓存，不命中再去 mysql 中获取。
• 当 mysql 成功获取数据以后，返回给前端的同时，将数据缓存进 Redis 一份，以便下次请求命中。

​

1.2 多级缓存方式

        多级缓存方案利用请求处理的每个环节，分别添加缓存，使最终到达 tomcat 的请求并发数远小于传统方案，达到减轻服务器压力，提升服务性能的目的。

​

---

二、多级缓存介绍

        请收好下面的图 - “多级缓存架构总览”，下面将围