大型网站架构之分布式缓存

缓存是优化网站性能的第一手段。在大型网站中,缓存通常用来保存热点数据,或者保存应用上下文相关信息。比如之前提到的session服务器集群就可以用分布式缓存来搭建。当然,分布式缓存还可用于缓存数据库中的热点数据以减轻数据库的压力。

分布式缓存的架构方式通常有两种:一种是以JBoss为代表的需要同步的分布式缓存,一种是一MemCached为代表的不互相通信的分布式缓存。

JBoss在所有服务器中保存相同的缓存数据,当一台服务器的数据有更新时,会同步到其他的服务器。这种所有服务器都保存相同数据的方式导致JBoss的缓存容量有限,而且同步的代价会随着服务器数量的增加而增大。因此这种方案很少在大型网站中使用。JBoss通常将应用服务器和缓存部署在同一台服务器上,如下图:
[img]http://dl2.iteye.com/upload/attachment/0117/6774/fc2c74b4-03eb-366d-a7d4-c735b18c156d.png[/img]

MemCached采用一种互不通信的分布式架构,每个服务器中缓存的数据不相同。应用服务器通过一致性hash等路由算法确定数据所在位置后进行访问,缓存服务器之间互不通信,具有很好的扩展性。如下图:
[img]http://dl2.iteye.com/upload/attachment/0117/6772/66b224ec-40b9-3dad-b9a7-6ec8dee39754.png[/img]

下面重点说下在MemCached中使用的路由算法,由于MemCached集群中不同服务器缓存的数据不同,因此应用服务器访问数据之前需要先通过路由算法确定数据所在的缓存服务器。最容易想到的路由算法是余数hash,但是在缓存系统需要扩容时,余数hash是不可用的。

比如例子:原来有3台节点,对应的hash值为0,1,2,现在增加一台节点后变为4台节点,对应的hash值为0,1,2,3。那么0-11这12个原来已经缓存的数据,在加入新节点后的可用率为25%。就是说,[color=red]向缓存系统中新加入一个节点之后,原来缓存的大部分数据变得无不可用了。这个现象在大型网站架构中是可怕的,因为新加入节点后造成的缓存低可用将导致数据库压力增大甚至有可能造成网站事故。[/color]
因此,我们把[color=red]向缓存系统中添加节点之后,能够保证已经缓存的数据仍然有效作为分布式缓存中路由算法的主要设计目标。[/color]为此,有一致性hash算法。

[color=red]一致性hash算法:[/color]
先构造一个长度为2^32的整数环,根据节点名称的hash值(其分布范围为0~2^32-1)将缓存服务器的节点放置在这个hash环上。计算需要缓存的数据的hash值(其分布范围为0~2^32-1),然后在hash环上顺时针找距离这个hash值最近的缓存服务器节点,就是数据要缓存的目标节点。如图:
[img]http://dl2.iteye.com/upload/attachment/0117/6778/e59b36ca-aaeb-3315-b4fe-7ffb5ad9457d.png[/img]

[color=red]一致性hash算法,有一个小小的问题[/color]。当向缓存中添加一个新的节点之后,根据一致性hash算法的规则,新添加的节点仅仅能够减轻一台原有服务器的压力,如下图:新添加的节点Node3只能缓解Node1的压力,而无法缓解Node0和Node2的压力。
[img]http://dl2.iteye.com/upload/attachment/0117/6780/8658344b-155a-3864-a8ce-80eeb331f7ec.png[/img]

上面提到的[color=red]添加新节点后负载不均衡的问题可以通过虚拟的手段来解决[/color]:将每台物理服务器虚拟为一组虚拟服务器,之后将这组虚拟服务器放到hash环上。采用一致性hash算法找到虚拟服务器,该虚拟服务器对应的物理服务器就是目标节点。如图:
[img]http://dl2.iteye.com/upload/attachment/0117/6782/9f4c811a-c2f4-3ffb-97ad-2c2deecdd5f6.png[/img]
在实践中,一台物理服务器一般虚拟为一组150个虚拟服务器,具体情况再改动。
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
资源包主要包含以下内容: ASP项目源码:每个资源包都包含完整的ASP项目源码,这些源码采用了经典的ASP技术开发,结构清晰、注释详细,帮助用户轻松理解整个项目的逻辑和实现方式。通过这些源码,用户可以学习到ASP的基本语法、服务器端脚本编写方法、数据库操作、用户权限管理等关键技术。 数据库设计文件:为了方便用户更好地理解系统的后台逻辑,每个项目都附带了完整的数据库设计文件。这些文件通常包括数据库结构图、数据表设计文档,以及示例数据SQL脚本。用户可以通过这些文件快速搭建项目所需的数据库环境,并了解各个数据表之间的关系和作用。 详细的开发文档:每个资源包都附有详细的开发文档,文档内容包括项目背景介绍、功能模块说明、系统流程图、用户界面设计以及关键代码解析等。这些文档为用户提供了深入的学习材料,使得即便是从零开始的开发者也能逐步掌握项目开发的全过程。 项目演示与使用指南:为帮助用户更好地理解和使用这些ASP项目,每个资源包都包含项目的演示文件和使用指南。演示文件通常以视频或图文形式展示项目的主要功能和操作流程,使用指南则详细说明了如何配置开发环境、部署项目以及常见问题的解决方法。 毕业设计参考:对于正在准备毕业设计的学生来说,这些资源包是绝佳的参考材料。每个项目不仅功能完善、结构清晰,还符合常见的毕业设计要求和标准。通过这些项目,学生可以学习到如何从零开始构建一个完整的Web系统,并积累丰富的项目经验。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值