《缓存背后的黑科技：揭秘Redis架构设计与高性能原理》

已于 2023-05-18 16:43:23 修改
阅读量1.1w 收藏 5
点赞数 2
分类专栏： 高性能分布式缓存Redis 文章标签： 缓存 redis 数据库 缓存架构 缓存原理
于 2023-05-18 12:16:01 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45736680/article/details/130744253
版权

本章学习目标：

  • 理解缓存的使用场景
  • 理解缓存原理
  • 了解常见缓存及分类
  • 理解服务器端缓存
  • 了解缓存的优势和代价
  • 理解缓存的读写模式
  • 掌握缓存的常见设计思路并能够运用到项目中

生产中遇到的缓存问题（大厂常见面试题）

  • 系统在某个时刻访问量剧增（热点新闻），造成数据库压力剧增甚至崩溃，怎么办？
  • 什么是缓存雪崩、缓存穿透和缓存击穿，会造成什么问题，如何解决？
  • 什么是大Key和热Key，会造成什么问题，如何解决？
  • 如何保证 Redis 中的数据都是热点数据？
  • 缓存和数据库数据是不一致时，会造成什么问题，如何解决？
  • 什么是数据并发竞争，会造成什么问题，如何解决？
  • 单线程的Redis为什么这么快？
  • Redis哨兵和集群的原理及选择？
  • 在多机Redis使用时，如何保证主从服务器的数据一致性？

缓存基本思想

缓存的使用场景一：DB缓存，减轻DB服务器压力

  • 一般情况下数据存在数据库中，应用程序直接操作数据库。
  • 当访问量上万，数据库压力增大，可以采取的方案有：读写分离，分库分表
  • 当访问量达到10万、百万，需要引入缓存。
  • 将已经访问过的内容或数据存储起来，当再次访问时先找缓存，缓存命中返回数据。
  • 不命中再找数据库，并回填缓存。

在这里插入图片描述

缓存的使用场景二：提高系统响应

  • 数据库的数据是存在文件里，也就是硬盘。与内存做交换（swap）
  • 在大量瞬间访问时（高并发）MySQL单机会因为频繁IO而造成无法响应。MySQL的InnoDB是有行锁
  • 将数据缓存在Redis中，也就是存在了内存中。
  • 内存天然支持高并发访问。可以瞬间处理大量请求。
  • qps到达11万/S读请求8万写/S

缓存的使用场景三：做Session分离

  • 传统的session是由tomcat自己进行维护和管理。
  • 集群或分布式环境，不同的tomcat管理各自的session。
  • 只能在各个tomcat之间，通过网络和Io进行session的复制，极大的影响了系统的性能。
    • 1、各个Tomcat间复制session，性能损耗
    • 2、不能保证各个Tomcat的Session数据同步
  • 将登录成功后的Session信息，存放在Redis中，这样多个服务器(Tomcat)可以共享Session信息。
  • Redis的作用是数据的临时存储

在这里插入图片描述

缓存的使用场景四：做分布式锁（Redis）

  • 一般讲锁是多线程的锁，是在一个进程中的
  • 多个进程（JVM）在并发时也会产生问题，也要控制时序性
  • 可以采用分布式锁。使用Redis实现 setNX

缓存的使用场景五：做乐观锁（Redis）

  • 同步锁和数据库中的行锁、表锁都是悲观锁
  • 悲观锁的性能是比较低的，响应性比较差
  • 高性能、高响应（秒杀）采用乐观锁
  • Redis可以实现乐观锁 watch + incr

什么是缓存？

  • 缓存原指CPU上的一种高速存储器，它先于内存与CPU交换数据，速度很快
  • 现在泛指存储在计算机上的原始数据的复制集，便于快速访问。
  • 在互联网技术中，缓存是系统快速响应的关键技术之一
  • 以空间换时间的一种技术（艺术）

大型网站中缓存的使用

  • 单机架构LAMP（Linux+apache+MySQL+PHP）、JavaEE（SSM）访问量越大，响应力越差，用户体验越差
  • 在大型网站中从浏览器到网络，再到应用服务器，再到数据库，通过在各个层面应用缓存技术，大大提升了系统性能和用户体验。
  • 引入缓存、示意图如下：
    在这里插入图片描述

常见缓存的分类

客户端缓存

  • 传统互联网：页面缓存和浏览器缓存
  • 移动互联网：APP缓存
页面缓存

  • 页面缓存：页面自身对某些元素或全部元素进行存储，并保存成文件。

  • html5：Cookie、WebStorage（SessionStorage和LocalStorage）、WebSql、indexDB、Application Cache等

  • 开启步骤：

    • 1、设置manifest描述文件

    • CACHEMANIFEST
#comment
js/index.js
img/bg.png

    • 2、html关联manifest属性

    • <htmllang="en"manifest="demo.appcache">

    • 3、使用LocalStorage进行本地的数据存储，示例代码：

    • localStorage.setItem("Name","张飞")localStorage.getItem("Name")
localStorage.removeItem("Name")
localStorage.clear()
浏览器缓存

  • 当客户端向服务器请求资源时，会先抵达浏览器缓存，如果浏览器有“要请求资源”的副本，就可以直接从浏览器缓存中提取而不是从原始服务器中提取这个资源。

  • 浏览器缓存可分为强制缓存和协商缓存。

  • 强制缓存：直接使用浏览器的缓存数据

  • 条件：Cache-Control的max-age没有过期或者Expires的缓存时间没有过期

  • <metahttp-equiv="Cache-Control"content="max-age=7200"/>
<metahttp-equiv="Expires"content="Mon,20Aug201023:00:00GMT"/>

  • 协商缓存：服务器资源未修改，使用浏览器的缓存（304）；反之，使用服务器资源（200）。

  • <metahttp-equiv="cache-control"content="no-cache">
APP缓存
  • 原生APP中把数据缓存在内存、文件或本地数据库（SQLite）中。比如图片文件。网络端缓存
  • 通过代理的方式响应客户端请求，对重复的请求返回缓存中的数据资源。

网络端缓存

  • 通过代理的方式响应客户端请求，对重复的请求返回缓存中的数据资源。
Web代理缓存
  • 可以缓存原生服务器的静态资源，比如样式、图片等。
  • 常见的反向代理服务器比如大名鼎鼎的Nginx。

在这里插入图片描述

边缘缓存
  • 边缘缓存中典型的商业化服务就是CDN了。
    CDN的全称是Content Delivery Network，即内容分发网络。
  • CDN通过部署在各地的边缘服务器，使用户就近获取所需内容，降低网络拥塞，提高用户访问响应速度
  • 和命中率。
  • CDN的关键技术主要有内容存储和分发技术。现在一般的公有云服务商都提供CDN服务。

在这里插入图片描述

服务端缓存

  • 服务器端缓存是整个缓存体系的核心。包括数据库级缓存、平台级缓存和应用级缓存。
数据库级缓存
  • 数据库是用来存储和管理数据的。
  • MySQL在Server层使用查询缓存机制。将查询后的数据缓存起来。
  • K-V结构，Key：select语句的hash值，Value：查询结果
  • InnoDB存储引擎中的buffer-pool用于缓存InnoDB索引及数据块。
平台级缓存
  • 平台级缓存指的是带有缓存特性的应用框架。
  • 比如：GuavaCache 、EhCache（二级缓存，硬盘）、OSCache（页面缓存）等。
  • 部署在应用服务器上，也称为服务器本地缓存。
应用级缓存（重点）
  • 具有缓存功能的中间件：Redis、Memcached、EVCache（AWS）、Tair（阿里、美团）等。采用K-V形式存储。
  • 利用集群支持高可用、高性能、高并发、高扩展。
  • 分布式缓存

缓存的优势、代价

优势一：提升用户体验

  • 用户体验（User Experience）：用户在使用产品过程中建立起来的一种纯主观感受。缓存的使用可以提升系统的响应能力，大大提升了用户体验。
  • 减轻服务器压力
  • 客户端缓存、网络端缓存减轻应用服务器压力。
  • 服务端缓存减轻数据库服务器的压力。

优势二：提升系统性能

  • 系统性能指标：响应时间、延迟时间、吞吐量、并发用户数和资源利用率等。缓存技术可以：
  • 缩短系统的响应时间
  • 减少网络传输时间和应用延迟时间
  • 提高系统的吞吐量
  • 增加系统的并发用户数
  • 提高了数据库资源的利用率

代价一：额外的硬件支出

  • 缓存是一种软件系统中以空间换时间的技术
  • 需要额外的磁盘空间和内存空间来存储数据
  • 搭建缓存服务器集群需要额外的服务器
  • 采用云服务器的缓存服务就不用额外的服务器了
  • 阿里云（Tair、Redis），百度云（Redis），提供缓存服务
  • AWS亚马逊云服务：EVCache

代价二：高并发缓存失效

  • 在高并发场景下会出现缓存失效（缓存穿透、缓存雪崩、缓存击穿）
  • 造成瞬间数据库访问量增大，甚至崩溃

代价三：缓存与数据库数据同步

  • 缓存与数据库无法做到数据的时时同步
  • Redis无法做到主从时时数据同步

代价四：缓存并发竞争

  • 多个redis的客户端同时对一个key进行set值得时候由于执行顺序引起的并发问题

缓存的读写模式

读写模式一：Cache Aside Pattern（常用）

  • Cache Aside Pattern（旁路缓存），是最经典的缓存+数据库读写模式。
  • 读的时候，先读缓存，缓存没有的话，就读数据库，然后取出数据后放入缓存，同时返回响应。
  • 更新的时候，先更新数据库，然后再删除缓存。

在这里插入图片描述

为什么是删除缓存，而不是更新缓存呢？
1、缓存的值是一个结构：hash、list，更新数据需要遍历
先遍历（耗时）后修改
2、懒加载，使用的时候才更新缓存
使用的时候才从DB中加载
也可以采用异步的方式填充缓存
开启一个线程定时将DB的数据刷到缓存中

高并发脏读的三种情况
1、先更新数据库，再更新缓存
update与commit之间，更新缓存，commit失败
则DB与缓存数据不一致

2、先删除缓存，再更新数据库
update与commit之间，有新的读，缓存空，读DB数据到缓存数据是旧的数据commit后 DB为新数据
则DB与缓存数据不一致

3、先更新数据库，再删除缓存（推荐）
update与commit之间，有新的读，缓存空，读DB数据到缓存数据是旧的数据commit后 DB为新数据
则DB与缓存数据不一致
采用延时双删策略

读写模式二：Read/Write Through Pattern

  • 应用程序只操作缓存，缓存操作数据库。
  • Read-Through（穿透读模式/直读模式）：应用程序读缓存，缓存没有，由缓存回源到数据库，并写入缓存。（guavacache）
  • Write-Through（穿透写模式/直写模式）：应用程序写缓存，缓存写数据库。
  • 该种模式需要提供数据库的handler，开发较为复杂。

读写模式三：Write Behind Caching Pattern

  • 应用程序只更新缓存。
  • 缓存通过异步的方式将数据批量或合并后更新到DB中
  • 不能时时同步，甚至会丢数据

缓存架构的设计思路

缓存的整体设计思路包括：

1、多层次

  • 分布式缓存宕机，本地缓存还可以使用

在这里插入图片描述

2、数据类型

  • 简单数据类型，Value是字符串或整数或二进制，Value的值比较大（大于100K），只进行setter和getter，可采用Memcached，Memcached纯内存缓存，多线程K-V 复杂数据类型
  • Value是hash、set、list、zset，需要存储关系，聚合，计算，可采用Redis

3、要做集群

  • 分布式缓存集群方案（Redis）
    • codis
    • 哨兵+主从
    • RedisCluster

4、缓存的数据结构设计

  • 1、与数据库表一致

    • 数据库表和缓存是一一对应的
      缓存的字段会比数据库表少一些
      缓存的数据是经常访问的
      用户表，商品表

  • 2、与数据库表不一致

    • 需要存储关系，聚合，计算等
      比如某个用户的帖子、用户的评论。以用户评论为例，DB结构如下：

    • 在这里插入图片描述

    • 如果要取出UID为1000的用户的评论，原始的表的数据结构显然是不行的。

      我们应做如下设计：

      key：UID+时间戳(精确到天) 评论一般以天为计算单位

      value：Redis的Hash类型。field为id和content

      expire：设置为一天

案例：设计拉勾首页缓存职位列表、热门职位

拉勾网(www.lagou.com)，是国内的招聘门户网站，亿万级PV，单机响应性能QPS万级。首页分析：
职位时时变化，不能使用静态html
采用模板技术，数据在服务端拿出，不能为空
数据不一定时时
架构图如下：
在这里插入图片描述

1、静态文件

  • 在nginx中，放置静态文件，比如css，js，图片等
    在这里插入图片描述

2、职位列表

  • 数据特点：
    • 固定数据，一次性读取
  • 方案：
    • 在服务器开启时一次性初始化（从xml）到服务器本地缓存
    • 采用Guava Cache，Guava Cache用于存储频繁使用的少量数据，支持高并发访问也可以使用JDK的CurrentHashMap，需要自行实现
      在这里插入图片描述

3、热门职位

  • 数据特点：
    • 频繁变化，不必时时同步
    • 但一定要有数据，不能为空
  • 方案：
    • 数据从服务层读取（dubbo），然后放到本地缓存中（Guava），如果出现超时或读取为空，则返回原来本地缓存的数据。
  • 注意：不同的客户端看到的数据有可能不一样。
    在这里插入图片描述

3、热门职位

  • 数据特点：
    • 频繁变化，不必时时同步
    • 但一定要有数据，不能为空
  • 方案：
    • 数据从服务层读取（dubbo），然后放到本地缓存中（Guava），如果出现超时或读取为空，则返回原来本地缓存的数据。
  • 注意：不同的客户端看到的数据有可能不一样。

在这里插入图片描述

4、数据回填

  • 从Dubbo中读取数据时，先读取Redis集群的缓存，如果缓存命中则直接返回。
  • 如果缓存不命中则返回本地缓存，不能直接读取数据库。
  • 采用异步的形式从数据库刷入到缓存中。

5、热点策略

  • 对于热点数据我们采用本地缓存策略，而不采用服务熔断策略，因为首页数据可以不准确，但不能不响应。
Java-You
关注
  • 2
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
redis实现高性能缓存架构
zdjsswqs的博客
05-22 667
菜鸟这次来看下怎么用redis实现高性能的缓存，能够应付高并发的访问。
Redis缓存设计原理及实战
m0_69377972的博客
04-11 610
作用 降低应用对物理数据源访问的频次，提高应用的运行性能。 缓存内的数据是对物理数据源中的数据的复制，应用程序在运行时从缓存读写数据，在特定的时刻或事件会同步缓存和物理数据源的数据。 通常直接查询 MySQL，但在高并发下，大量查询 MySQL 数据库会导致数据库性能变慢，解决方案就是在应用层与 MySQL 之间搭建一个 Cache 层，让请求先访问 Cache，就能大大降低MySQL的压力，还能提高系统的性能。 缓存虽然无需考虑安全性，但需结合业务影响考虑何时失效，和 MySQL 的数据一致性容忍度如.
redis 总结
感悟聚集的博客
02-20 437
概述 redis 是一个内存的缓存数据库，用于做缓存的。为各个服务做集中缓存服务。支持多种缓存数据结构。如 string、hash、list、set、sortset，也支持简单的发布订阅、和消息队列、lua 脚本自己支持的缓存服务和事务等一些其它服务。 redis 架构模式 单机到集群 单机模式 ​ 适合于不重要的缓存数据，可以快速重建，失效对系统影响不大的数据。缺点：单点，数据容易丢失。 ...
1. redis核心数据结构实战与高性能原理剖析
俺就是菜的很的博客
06-08 316
本文是按照自己的理解进行笔记总结，如有不正确的地方，还望大佬多多指点纠正，勿喷。课程内容：1、Redis核心数据结构精讲2、微博与微信消息流Redis实现4、微博与微信朋友关注模型基于Redis实现5、电商购物车如何用Redis实现6、电商推荐系统如何用Redis实现7、Redis高性能核心原理剖析、Redis 6.0多线程模型初探redis安装步骤：https://blog.csdn.net/Ding_JunXia/article/details/131112871。
腾讯架构师是如何解释：Redis高性能通信的原理（精华版）
m0_63437643的博客
03-13 191
我们一直说Redis的性能很快，那为什么快？Redis为了达到性能最大化，做了哪些方面的优化呢？在深度解析Redis的数据结构这篇文章中，其实从数据结构上分析了Redis性能高的一方面原因。在目前的k-v数据库的技术选型中，Redis几乎是首选的用来实现高性能缓存的方案，它的性能有多快呢？根据官方的基准测试数据，一台普通硬件配置的Linux机器上运行单个Redis实例，处理简单命令（O(n)或者O（logn）），QPS可以达到8W，如果使用pipeline批处理功能，QPS最高可以达到10W。Redis的高
kafka 高吞吐量性能揭秘
热门推荐
stark_summer的专栏
12-02 3万+
此文章来自于我司高磊童靴 kafka作为时下最流行的开源消息系统，被广泛地应用在数据缓冲、异步通信、汇集日志、系统解耦等方面。相比较于RocketMQ等其他常见消息系统，Kafka在保障了大部分功能特性的同时，还提供了超一流的读写性能。 本文将针对Kafka性能方面进行简单分析，首先简单介绍一下Kafka的架构和涉及到的名词： 1. Topic：用于划分Message的逻辑概念，
阿里数据库内核月报导航
luoxn28的专栏
09-27 1247
数据库内核月报是阿里云RDS-数据库内核组维护的一个关于数据库的技术博客，上面的文章质量是有保证的。不过有一点不太友好的是，这个网站首页非常简洁，只是按照时间月份来归档文章，并没有按照...
网络安全资料汇总！
weixin_46159811的博客
01-07 3878
1.网络安全资料汇总 web security： 《http权威指南》【图灵出品】   深入理解web http/https协议 ，了解超文本传输协议是如何进行传输和编译的。 《javascript权威指南》   淘宝前端团队翻译，深入了解前端js变量，注释，函数，表达式等，学习xss必备书籍。还提及了jquery类库。 《xs...
Django缓存
brucexia的专栏
09-04 1574
为了方便起见，Django框架提供了不同级别的缓存粒度，既可以缓存特定视图的输出，也可以仅缓存难以生成的片段，甚至可以缓存整个站点。在本地安装好Memcached后，还需要安装Memcached的绑定，最常见的两种Python Memcached绑定方式是python-memcached和pylibmc。当然，如果不使用数据库缓存后端，则无须为数据库缓存模型提供路由指令。这个命令将在数据库中创建一张表，该表的格式与Django的数据库缓存系统期望的格式相同，且该表的名称取自LOCATION。
缓存分布式一致性问题
z1299236067的博客
09-04 1125
一致性解决方案：1.缓存所有数据都要有过期时间，保证数据过期后的下一次查询触发主动更新缓存。2.读写数据的时候，加上分布式的读写锁（读相当于无锁状态）。
缓存和数据库缓存有什么区别
weixin_57763462的博客
09-04 361
缓存通常是在应用层面进行管理的，它就像是应用的一个临时数据仓库，可以存储一些常用的数据，这样应用就可以直接从缓存中获取数据，而不用每次都去数据库里查询。而数据库缓存则是在数据库层面进行管理的，它主要存储的是数据库表中的数据块或查询结果，用来减少对磁盘的访问次数，提高数据库的查询效率。应用缓存的管理通常是由应用开发者来负责的，他们可以根据应用的具体需求来定制缓存策略，比如缓存的数据结构、过期时间等。总的来说，缓存和数据库缓存都是为了提高数据的读取效率而设计的，但它们的位置、管理方式和使用场景都有所不同。
【Docker系列】docker缓存详解
檀越的博客
09-04 1789
💝💝💝欢迎来到我的博客，很高兴能够在这里和您见面！希望您在这里可以感受到一份轻松愉快的氛围，不仅可以获得有趣的内容和知识，也可以畅所欲言、分享您的想法和见解。非常期待和您一起在这个小小的网络世界里共同探索、学习和成长。💝💝💝 ✨✨ 欢迎订阅本专栏 ✨✨。
Redis 实现原理或机制
Flying_Fish_roe的博客
09-07 843
Redis 的高性能、高可用性和灵活性来自其精巧的实现原理和机制。通过高效的内存管理、灵活的数据结构、强大的持久化机制、主从复制和集群功能，Redis 能够满足各种复杂的应用场景需求。无论是在缓存、会话管理、还是分布式存储领域，Redis 都能够提供卓越的性能和稳定性。
【苍穹外卖】Day 5 Redis、店铺营业状态接口
Yudiannann的博客
09-03 893
Redis是一个基于的 key-value 结构数据库运行在cmd下启动状态下，再测试：也可以在配置文件设置密码（4位密码不行）改为6位然后发现已经需要密码需要简化：安装管理客户端（但是需要先启动redis）
Redis基本类型常用命令练习
安晴晚风的博客
09-04 1193
目录一、String类型1. 使用Redis的String命令，如何设置一个键为"username"，值为"Tom"的键值对？2. 如何使用Redis的String命令获取键为"username"的值？3. 使用Redis的String命令，如何设置一个键为"age"，值为23的键值对，然后让age+1。4. 如何使用Redis的String命令同时设置多个键值对，例如：“key1"的值为"value1”，“key2"的值为"value2”？5. 使用Redis的String命令，如何获取键为"userna
Redis的incr命令引发的反序列化异常和ERR value is not an integer or out of range异常
m0_61891910的博客
09-03 497
在Java中使用inc命令的时候发现redis中的值被反序列化后居然不是数字,检查后发现可能是序列化器没对,在redis配置的地方将序列化器设置为。Jackson2JsonRedisSerializer后使用整成,贴上代码。
Redis 篇-深入了解基于 Redis 实现分布式锁（解决多线程安全问题、锁误删问题和确保锁的原子性问题）
最新发布
小扳手
09-07 1132
假设线程一正常获取锁之后，执行任务，但是该任务出现了阻塞情况，等待的时间较久，此时当锁到过期时间之后，就会自动被释放了，当时此时线程一还不知道当前锁被释放了，就在这时候，线程二来正常的获取锁，因为锁已经被释放了，所以线程二是可以获取锁成功的，接着，线程二获取锁之后，就开始执行任务了，此刻线程一任务执行完之后，会直接释放锁，这就出现线程一误删了线程二的锁问题。为了解决 Redis 分布式锁被误删的问题，可以想到的办法是：在释放锁之前，判断当前的锁 “是否” 是自己之前获取的锁，如果是，则可以直接释放锁；
Redis两种类型分区
Flying_Fish_roe的博客
09-07 725
水平分区，也称为Sharding，是最常见的 Redis 分区方法。这种分区方法的核心思想是将 Redis 的**键值对（key-value pairs）**按照一定的规则（例如哈希函数）分散到不同的 Redis 节点上。每个 Redis 实例保存数据集的一个子集，而不是整个数据集。通过这种方式，Redis 集群可以存储和管理更多数据，并且能够更好地处理高并发请求。垂直分区（Vertical Partitioning），又称为功能分区，是一种根据数据的不同功能或逻辑，将数据拆分到不同的 Redis 实例上。
# Windows下配置Redis以服务方式启动
不积跬步，无以至千里；不积小流，无以成江海
09-04 304
启动服务，输入命令 停止服务， 输入命令
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Java-You

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值