Memcached 原理及应用

Memcached 原理及应用

Memcached是什么?有什么作用?

  • Memcached是一个开源的,高性能的,具有分布式内存对象的缓存系统
  • 众所周知,从内存读取数据的速度远远快于从磁盘中读取,而数据库的数据是存放在磁盘中的,因此Memcached通过在事先规划好的内存空间中临时缓存数据库中的各类数据,以达到减少业务对数据库的直接高并发访问,从而达到提升数据库的访问性能,加速网站集群动态应用服务的能力

Memcached内存管理机制原理

  • Memcached利用slab allocation机制来分配和管理内存,slab allocation机制原理是按照预先规定的大小,将分配给Memcached的内存空间分割成各种特定长度的内存块,再把长度相同的内存块分成组(chunks slab class)这些内存块不会被释放,可以重复使用

  • Memcached服务器端中保存着slab内空闲chunk的列表,根据该列表选择chunk,然后将数据缓存在其中,当有数据存入时,Memcached根据收到的数据大小,选择最适合该数据大小的slab分配一个能存下这个数据的最小内存块(chunk),例如,有一个100字节的数据,根据下图中的chunk,就会被分配到112节的内存块中,这样就导致了12字节空间被浪费了,而这也是slab allocation机制的一个缺点

  • 降低浪费的方法只能是预先计算出应用存入数据的常见大小,以此调整chunk的大小。或者把同一业务类型的数据存入同一个Memcached服务器中,确保存入的数据大小相对均匀。

Memcached对象删除原理与cache机制

  • Memcached主要的cache机制是LRU算法(Least Recently Used 最近最少使用)加上item过期,存放数据时,Memcached可以指定该数据在缓存中的存放时间,如果Memcached的内存不够用,过期的slab会优先被替换,接着轮到最近最少使用的slab。
  • 若不想使用LRU算法,则在Memcached启动时指定 -M 选项, 当内存耗尽时,则会返回一个报错信息

Memcached服务特点总结

  • 各个节点之间相互独立
  • C/S模式架构
  • 异步IO模型,使用libevent作为事件通知机制
  • 被缓存的数据以Key-Value 形式存在
  • 当内存中缓存的数据容量达到启动时设定的内存值,就自动使用LRU算法删除最少使用的缓存数据
  • 可以对存储的数据设置过期时间,这样过期后数据会被清除,服务本身不会监控过期,而是在访问的时候查看key的时间戳判断是否过期
  • memcached内存分配机制是对特定的内存进行分块,再把多个相同大小的块分为一组

Memcached服务在应用场景的工作流程

  • 当应用程序服务器(一般是WEB服务器)需要访问后端数据库获取数据时,会先访问Memcached的内存缓存,如果缓存中有指定数据就直接获取然后返回给应用程序服务器,应用服务器再返回给用户,如果没有指定数据,即没有命中,再由Memcache客户端请求后端数据库服务器,获取到相应的数据后,缓存到Memcached的内存以备下次请求,并返回给应用服务器,再有应用服务器返回给用户。Memcached就相当于是数据库的挡箭牌,大大减少了数据库的访问压力,提高了整个网站架构的响应速度,提升了用户体验
  • 当程序更新时,修改或删除数据库已有数据时,会同时发送请求通知Memcached已经缓存的旧数据已经失效,从而保证Memcached的数据和数据库中的一致
  • 如果是高并发场合,除了通知Memcached过期的缓存失效外,还会通知相关机制,使得用户访问新数据前,通过程序预先把更新过的数据推送到Memcached中缓存起来,这样可以减少数据库的访问压力,提升Memcached缓存的命中率
  • 数据库插件可以在写入更新数据库后,自动抛给Memcached缓存起来

Memcached 服务在企业集群架构中的应用场景

  • 作为数据库的前端缓存应用

    • 完整缓存:先全部缓存起来,再对外提供数据,称为预热,用户访问时就可以直接读取Memcached,而不用再访问数据库l
    • 热点缓存:需前端Web程序配合,只缓存热点的数据,即缓存经常被访问的数据(先预热基础数据,再动态更新,非热门数据收到请求后再读取数据库缓存)
    • 如果是高并发的业务,一定要事先预热,如果数据更新,同时应该触发缓存更新,防止给用户过期数据
  • 作为集群的session会话共享存储

    • 例如用php实现,则修改php.ini
save_handler = memcache
save_path = "tcp://192.168.139.103:11211"

Memcached服务分布式集群实现

  • Memcached是C/S架构的,当数据到达到达客户端,客户端的实现算法会根据 Key 来决定保存到哪一台Memcached服务器,保存和取出时的算法一致就能保证选中的服务器相同,从而提高缓存的命中率
  • 最常用的是一致性hash算法,一致性哈希算法的原理是计算出服务器节点的哈希值,并将其分配到 0~2^32 的圆上,然后用同样的方法求出存储数据的Key的哈希值,并映射到圆上,然后从数据映射的位置开始顺时针查找,并将数据存放到找到的第一个服务器上

  • 一致性哈希算法在服务节点太少时,容易因为节点分部不均匀而造成数据倾斜问题,为了解决这种数据倾斜问题,一致性哈希算法引入了虚拟节点机制,即对每一个服务节点计算多个哈希,每个计算结果位置都放置一个此服务节点,称为虚拟节点。具体做法可以在服务器ip或主机名的后面增加编号来实现.
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值