多级缓存 （亿级流量的缓存方案）

原创 已于 2023-02-03 00:32:23 修改 · 301 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#缓存 #多级缓存

于 2022-09-02 15:44:37 首次发布
本文介绍了多级缓存策略，从浏览器缓存到服务器端Redis，降低Tomcat压力，提升访问速度。重点涉及JVM进程缓存、Nginx缓存和数据库查询的缓存利用。

 

多级缓存就是充分利用请求处理的每个环节，分别添加缓存，减轻Tomcat压力，提升服务性能：

1. 浏览器访问静态资源时，优先读取浏览器本地缓存
2. 访问非静态资源（ajax查询数据）时，访问服务端
3. 请求到达Nginx后，优先读取Nginx本地缓存
4. 如果Nginx本地缓存未命中，则去直接查询Redis（不经过Tomcat）
5. 如果Redis查询未命中，则查询Tomcat
5. 请求进入Tomcat后，优先查询JVM进程缓存
6. 如果JVM进程缓存未命中，则查询数据库

 1、JVM进程缓存

最低0.47元/天 解锁文章
实现多级缓存（Redis+Caffeine）
刘皇叔说Java的博客
01-07 2842
在高性能的服务架构设计中，缓存是一个不可或缺的环节。在实际的项目中，我们通常会将一些热点数据存储到Redis或MemCache这类缓存中间件中，只有当缓存的访问没有命中时再查询数据库。在提升访问速度的同时，也能降低数据库的压力。随着不断的发展，这一架构也产生了改进，在一些场景下可能单纯使用Redis类的远程缓存已经不够了，还需要进一步配合本地缓存使用，例如Guava cache或Caffeine，从而再次提升程序的响应速度与服务性能。
亿级流量系统多级缓存架构01
Jack方
04-18 518
亿级流量系统多级缓存架构01
一个牛逼的多级缓存实现方案！
xmt1139057136的专栏
04-19 1374
你知道的越多，不知道的就越多，业余的像一棵小草！你来，我们一起精进！你不来，我和你的竞争对手一起精进！编辑：业余草tech.youzan.com推荐：https://www.xttblog...
多级缓存方案
虎神大帝的博客
03-21 191
redis作为缓冲数据库的压力，提高接口的响应速度，从而提高服务的并发能力，起到了非常关键的作用但是在平时的项目业务中，tomcat成为了瓶颈，所以引入多级缓存架构方案从上面架构图可以看出，多级缓存的实现方案中，是有一些学习成本的，我们要学习jvm进程缓存Lua语言入门实现多级缓存缓存同步策略Caffeine目前是性能最好的本地进程缓存缓存预热实现1.实现initializingBean接口重写afterPropertiesSet方法缓存同步策略
多级缓存设计：Caffeine+Redis
最新发布
xiaojun___的博客
10-29 1212
其实使用查询的流程可以是一个模板方法，现在我们用图的方式来一步步深刻理解其流程。
一，多级缓存解决方案
qq_59520751的博客
01-24 757
其实本质就是redis更新了，没有通知另外一个节点的caffeine，使用的是redis中的发布订阅功能，相当于简化版的mq。1，当项目发展到一定阶段，积累到一定用户时，就会出现一个数据量过大，查询频率过高的问题，针对以上特点，我们进行逐一分析，首选是数据量大，这个挑战是在存储方面，如果我们做技术选型的话，无非就是两种选择，一种是关系型数据库，另一种是非关系型数据库，显然，在存储大数据方面非关系型数据库更合适一些，以我们目前掌握的技术而言，选择MongoDB存储要比MySQL更合适一些。
亿级流量多级缓存架构
Ycy的博客
06-04 459
Tomcat支持并发量太低所以不直接使用service操作Redis等，而是使用lua： Nginx＋lua＋Redis Nginx＋lua＋kafkaNginx＋lua=openresty （可作软防火墙）大公司没有delete语句，只做update逻辑删除，不常用的冷数据扔到HBase。此架构是针对读请求的。 写请求如秒杀，大多数是用的消峰（过滤扔掉一大部分请求）Lua又称胶水语言，其设计目的是为了通过灵活嵌入应用程序中从而为应用程序提供灵活的扩展和定制功能。Redis执行lua的时候 其他客户端命令都
亿级流量系统多级缓存架构4.pdf
08-10
本文档聚焦于亿级流量系统的多级缓存架构设计，其中涉及的关键知识点包括异常控制、错误编码、异步处理、CAP定理、分布式系统的一致性问题、以及高可用架构设计等。 首先，异常控制与错误编码是系统稳定运行的基石...
多级缓存(亿级流量缓存)
07-21
在亿级流量的环境下，多级缓存系统需要解决的核心问题包括：缓存容量与数据热度的匹配、缓存一致性和过期策略、缓存穿透和击穿的问题、以及如何处理大规模的缓存更新和失效等。通过合理的设计和优化，多级缓存系统...
系统设计 - 亿级流量多级缓存
weixin_42254177的博客
11-03 220
设计之初, 一定要问这两个问题 高并发 到底有多高, 这个是很不一样的 数据一致性的要求有多高 削峰 那么做削峰处理的服务(nginx), 必须能抗住最高峰值的流量 如果并发量高于5w, 那么一台nginx扛不住 1. 通过划分域名, 分流主站的流量 down.qq.com 由down服务器集群去承担down业务的流量 games.qq.com 由games服务器集群去承担games业务的流量 2. 如果games.qq.com流量依然很高 N个nginx + M个tomcat依然扛不住 那就用C
一个牛逼的 多级缓存 实现方案！
石杉的架构笔记
09-14 286
公众号后台回复“学习”，获取作者独家秘制精品资料扫描下方海报二维码，试听课程：来源：https://tech.youzan.com/为什么要做 TMC多级缓存解决方案的痛...
亿级流量的缓存方案——多级缓存
m0_45364328的博客
06-15 399
传统的缓存策略一般是请求到达Tomcat后，先查询Redis，如果未命中则查询数据库，如图：存在下面的问题：•请求要经过Tomcat处理，Tomcat的性能成为整个系统的瓶颈•Redis缓存失效时，会对数据库产生冲击多级缓存就是充分利用请求处理的每个环节，分别添加缓存，减轻Tomcat压力，提升服务性能：在多级缓存架构中，Nginx内部需要编写本地缓存查询、Redis查询、Tomcat查询的业务逻辑，因此这样的nginx服务不再是一个反向代理服务器，而是一个编写业务的Web服务器了。因此这样的业务Nginx
多级缓存一致性解决方案：理论与实践
一碗黄焖鸡三碗米饭的博客
03-11 1528
在传统的数据库系统中，一致性通常是指保证不同数据库节点中存储的数据保持一致。而在分布式缓存中，缓存一致性则是指当缓存中的数据发生变化时，如何确保不同缓存层、不同节点之间的数据状态是同步的，不会产生数据不一致的问题。在分布式系统中，多级缓存本地缓存：运行在单一应用实例上的缓存，通常是某个进程内部使用的缓存。例如，Ehcache或。分布式缓存：在多个服务实例中共享的缓存系统，例如Redis或Memcached。数据库缓存：数据库自身的缓存机制，例如关系型数据库或 NoSQL 数据库的查询缓存。
多级缓存
咸鱼老罗的博客
01-05 1014
使用场景 当某个接口遇到一下场景时 接口计算复杂，耗时、耗资源 数据不是经常改变 数据量大 接口数据一致性要求不高 对于上面的场景，就可以考虑用缓存来实现，就是把上次计算结果缓存起来，下次不经过接口运算，直接读取缓存中的数据，当缓存中没有数据，再去计算。 当接口的访问量巨大，并发高的时候，必须考虑缓存集群了。对于缓存集群，备用的有ehcache集群、redis
实现多级缓存的架构设计方案
qq_16932445的博客
11-06 472
为什么要做 TMC 多级缓存解决方案的痛点 TMC 整体架构 TMC 本地缓存 如何透明 整体结构 热点发现 整体流程 数据收集 热度滑窗 热度汇聚 热点探测 特性总结 实战效果 快手商家某次商品营销活动 双十一期间部分应用 TMC 效果展示** 功能展望 - ...
多级缓存:亿级流量的缓存方案
m0_71484388的博客
12-20 1548
类似Java的条件控制，例如if、else语法：与java不同，布尔表达式中的逻辑运算是。
亿级流量的缓存方案-多级缓存-OpenResty实战
Blueeyedboy521的博客
06-09 1113
OpenResty是一个机遇Nginx的高性能web平台，用于方便的搭建能过处理超高并发，扩展性极高的动态web应用、Web服务和动态网关。具备下列特点：官方网站：https://openresty.org/cn/https://blog.csdn.net/Blueeyedboy521/article/details/125142843https://blog.csdn.net/Blueeyedboy521/article/details/125141844nginx提供了内部API用以发送http请求：
亿级流量系统多级缓存架构：一致性与可用性的权衡
"亿级流量系统多级缓存架构4.pdf" 在亿级流量的系统设计中，多级缓存架构是解决性能瓶颈的关键技术。这种架构通常包括前端缓存（如CDN）、本地缓存（如内存缓存Redis或Memcached）、数据库缓存等层次，以分摊对后端...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值