沸腾了,阿里双11万亿流量分布式缓存设计实践来袭,电子版参考指南

前言

每年双11,天猫成交额都会一次一次地刷新世界纪录,阿里巴巴核心系统100%上云,撑住了双11的世界级流量洪峰。在这一流量战场上,阿里可谓是华山论剑的最大赢家。今天我把阿里针对淘宝双十一万亿级流量下的分布式缓存文档共享出来,全面解析阿里双11的武功秘籍。

阿里双十一的四种应用场景

MDB 典型应用场景

  1. 用于缓存,降低对后端数据库的访问压力。
  2. 临时数据存储,部分数据丢失不会对业务产生较大影响。
  3. 读多写少,读qps达到万级别以上。

FastDump 典型应用场景

  1. 周期性地将离线数据快速地导入到Tair集群中,快速使用到新的数据。
  2. 读取低延迟,不能有毛刺。

LDB 典型应用场景

  1. 通用kv存储,交易快照,安全风控等。
  2. 存储黑白单数据,读qps很高。
  3. 计数器功能,更新非常频繁,且数据不可丢失。

RDB 典型应用场景

  1. 复杂的数据结构的缓存与存储。
  2. 如播放列表,直播间等。
a5584db11622bb5e4b45039eff05a8c3.jpeg

双十一技术挑战

  • 访问峰值增速:Tair峰值 > 交易峰值 > 总GMV
  • 多地域多单元
  • 体验与成本
  • 稳定性,高可用
498136f73f8611dff91b1152684673e6.jpeg

性能与成本

内存数据结构

  1. cache meta
  2. slab_mabager
  3. hashmap
  4. pages
b1dd7acdd1bbb9ade134da24fdd28b55.jpeg

锁的影响

  • 细粒度锁(fine-grained locks)
  • 无锁数据结构(lock-free data structures)
  • CPU本地数据结构(per-CPU data structures)
  • 读拷贝更新(RCU)
d85863641e3dba9ed5359ab3f423eaae.jpeg

用户态协议栈+内存合并

03efb4a19e74583913e62ff8f75a3873.jpeg

客户端优化

  • 网络框架替换,适配协程mina =netty吞吐量提升40%+
  • 序列化优化集成kryo和hessian吞吐量提升16%+
be8ce3b95f03c1ac1cefdb5ae948e3ab.jpeg

内存网格

  • 业务场景读写量超大大量本地计算提供高性能计算快速IO能 力
  • 特性数据本地性读穿透Write Through / Write Behind/merge多单元replication
  • 效果读取降至27.68%写入降至55.75%
9a5ec17f6f2c0ba8d12c627b9fc8d486.jpeg

缓存难题——热点

缓存击穿

  • 突发流量热门商品,店铺时事新闻各类压测
  • 缓存被击穿限流
  • 结局全系统崩溃
  • 根源访问热点
13ee45315b46e501718f308b0ff3d91c.jpeg

热点散列

  • 热点类型频率热点流量热点
c6673c31969befbf7d72af7f50fd0e4e.jpeg

热点散列效果

  • 热点QPS数
  • 热点流量
  • 热点集群散列效果对比
22be647a03d757e1e9cd4d6bc8aace6e.jpeg

写热点

  • 热点合并实时识别合并写引擎
614c4133dfd5e9cb040f62a449e7eae9.jpeg

阿里巴巴的这个双十一万亿流量分布式缓存,完整呈现如何设计响应亿级请求。

教你如何构建高并发、大流量系统方能经受起亿级线上用户流量的真实考验。

由于头条发文图片质量可能会受到影响(图片会被压缩导致清晰度下降),完整版的阿里双十一万亿流量分布式缓存设计,我在这里做一个开源式的分享,用以帮助到更多想从大厂技术层面彻底提升自身硬实力的互联网从业者。

资料获取方式:

点击文末下方传送门即可获得免费领取方式!!!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值