分布式存储
GoRustNeverStop
这个作者很懒,什么都没留下…
展开
-
一致性哈希算法及其在分布式系统中的应用
摘要本文将会从实际应用场景出发,介绍一致性哈希算法(Consistent Hashing)及其在分布式系统中的应用。首先本文会描述一个在日常开发中经常会遇到的问题场景,借此介绍一致性哈希算法以及这个算法如何解决此问题;接下来会对这个算法进行相对详细的描述,并讨论一些如虚拟节点等与此算法应用相关的话题。分布式缓存问题假设我们有一个网站,最近发现随着流量增加,服务器压力越来越大转载 2016-01-17 17:10:49 · 633 阅读 · 0 评论 -
MFS部署及运维
公司使用moosefs做图片存储,最近学习了一下,在此小小总结一下,主要分以下几部分:MFS概述、特性和新版改进MFS 工作原理和设计架构MFS的安装、部署、配置MFS的高级特性MFS的性能测试MFS集群的维护MFS的常见问题和建议对策 一、MFS概述、特性和新版改进MooseFS是一个分布式存储的框架,其具有如下特性:Free(GPL)通用文件系统,不需要转载 2017-10-12 14:04:48 · 10092 阅读 · 1 评论 -
MooseFS维护技巧集锦
【编者按】MooseFS是一款网络分布式文件系统。从其简介、部署及应用方面已经详细给大家介绍了,今天我们来了解一下MooseFS的维护技巧。一、启动MooseFS集群最安全的启动MooseFS集群(避免任何读或写的错误数据或类似的问题)的方式是按照以下命令步骤:启动mfsmaster进程启动所有的mfschunkserver进程启动mfsmetalogger进程转载 2017-10-12 13:41:03 · 1003 阅读 · 0 评论 -
moosefs 编译打包
原创作品,允许转载,转载时请务必以超链接形式标明文章 原始出处 、作者信息和本声明。否则将追究法律责任。http://purplegrape.blog.51cto.com/1330104/1329754moosefs 是一个分布式的文件系统,官方提供了源码包,里面直接包含了生成rpm包的办法。编译环境1yum in转载 2017-10-12 13:39:54 · 448 阅读 · 0 评论 -
分布式文件系统MFS、Ceph、GlusterFS、Lustre的比较
http://blog.chinaunix.net/uid-17238776-id-4394599.htmlMooseFS(MFS)CephGlusterFSLustreMetadata server单个MDS。存在单点故障和瓶颈。多个MD转载 2017-10-18 10:45:49 · 3103 阅读 · 0 评论 -
LizardFS的安装使用
MooseFS在今年推出了v2.0版本,分为社区版本和专业版本,不过和v1版本相比较,增强了一些功能特性( quotas, extended attributes, ACL support, MFS CLI tool, better memory management.)目前可以通过v1版本进行源代码的研究分析,最新的是v1.6.27-5。国内百度有基于MooseFS的深度二次开发,叫Shadow转载 2017-10-17 19:37:54 · 824 阅读 · 0 评论 -
Frequently Asked Questions in MooseFS
Frequently Asked Questions(last update: May 24, 2016)Table of Contents:What average write/read speeds can we expect?Does the goal setting influence writing/reading speeds?Are concurren转载 2016-08-24 17:13:24 · 1051 阅读 · 0 评论 -
Changes in MooseFS 3.0
链接:https://moosefs.com/documentation/changes-in-moosefs-3-0.htmlChanges in MooseFS 3.0This page lists noteworthy changes in MooseFS 3.0:MooseFS 3.0.81-1 (2016-07-25)(mount) fixed o转载 2016-08-24 11:52:58 · 2572 阅读 · 0 评论 -
Centos安装NFS服务器配置及挂载教程
一、环境介绍: 服务器:centos 192.168.1.225客户端:centos 192.168.1.226 二、安装: NFS的安装配置:centos 5 :yum -y install nfs-utils portmapcentos 6(在CentOS 6.3当中,portmap服务由rpcbind负责) :转载 2016-08-22 18:59:47 · 3314 阅读 · 0 评论 -
一个分布式服务器集群架构方案
0x01.大型网站演化简单说,分布式是以缩短单个任务的执行时间来提升效率的,而集群则是通过提高单位时间内执行的任务数来提升效率。集群主要分为:高可用集群(High Availability Cluster),负载均衡集群(Load Balance Cluster,nginx即可实现),科学计算集群(High Performance Computing Cluster)。分布转载 2016-08-29 23:31:44 · 6445 阅读 · 0 评论 -
分布式文件系统FastDFS架构剖析
文/余庆 FastDFS是一款类Google FS的开源分布式文件系统,它用纯C语言实现,支持Linux、FreeBSD、AIX等UNIX系统。它只能通过专有API对文件进行存取访问,不支持POSIX接口方式,不能mount使用。准确地讲,Google FS以及FastDFS、mogileFS、HDFS、TFS等类Google FS都不是系统级的分布式文件系统,而是应用级的分布式文件存储转载 2016-08-19 14:00:17 · 1549 阅读 · 0 评论 -
FastDFS分布文件系统
FastDFS是为互联网应用量身定做的一套分布式文件存储系统,非常适合用来存储用户图片、视频、文档等文件。对于互联网应用,和其他分布式文件系统相比,优势非常明显。具体情况大家可以看相关的介绍文档,包括FastDFS介绍PPT等等。出于简洁考虑,FastDFS没有对文件做分块存储,因此不太适合分布式计算场景。源码:http://sourceforge.net/projects/fastd转载 2016-08-19 10:30:36 · 684 阅读 · 0 评论 -
heartbeat httpd nfs 实现高可用web集群
一 环境准备二 拓扑结构三 前提条件四 安装相关软件五 配置heartbeat六 测试web集群七 问题汇总八 共享存储一 环境准备操作系统centos 6.4 x86_64 最小化安装如使用yum 安装的方式 centos5.5 安装的是V2.X ,centos 6.4 安装的是V3.XYUM 安装转载 2016-08-05 16:46:21 · 804 阅读 · 0 评论 -
生产场景NFS共享存储优化及实战
原创作品,允许转载,转载时请务必以超链接形式标明文章 原始出处 、作者信息和本声明。否则将追究法律责任。http://linuxzkq.blog.51cto.com/9379412/1676558生产场景NFS共享存储优化:1、硬件:sas/ssd磁盘,买多块,raid0/raid10,网卡好2、NFS服务器端优化加all_squash,async /bac转载 2016-08-05 16:45:23 · 5761 阅读 · 0 评论 -
CentOS7通过NFS共享文件夹,主要用于集群部署时候,文件的共享
要点:文件所在的服务器设置共享文件夹,其它应用服务器挂载该文件夹环境:文件所在的服务器:192.168.25.101 文件夹为/home/nfs_data应用服务器:192.168.25.102 文件夹为/home/nfs_data安装:CentOS是自带NFS,所以无需安装,要安装的话用yum -y install nfs-utils rpcbin转载 2016-08-05 16:14:42 · 4477 阅读 · 0 评论 -
分布式文件系统下的本地缓存
转载请说明出处:http://blog.csdn.net/cywosp/article/details/23970017 在分布式文件系统中,为了提高系统的性能,常常会引入不同类型的缓存存储系统(算法优化所带来的的效果可能远远不如缓存带来的优化效果)。在软件中缓存存储系统一般可分为了两类:一、分布式缓存,例如:Memcached、Redis、淘宝的Tair等,二、本地缓存转载 2016-01-13 22:34:42 · 1209 阅读 · 0 评论 -
Consistent Hashing一致性哈希库libconhash的使用与实现
闲着没事看了看一致性哈希,找了个开源库libconhash看看如何实现。整过过程非常清晰,代码也非常易懂,注释也非常全,带sample,简直就是开源库的典范!!libconhash的sourceforge下载地址From wikipedia一致哈希 是一种特殊的哈希算法。在使用一致哈希算法后,哈希表槽位数(大小)的改变平均只需要对K/n 个关键字重新映射,其中 K是关键转载 2016-01-17 17:52:09 · 2778 阅读 · 1 评论 -
LizardFS的安装使用
MooseFS在今年推出了v2.0版本,分为社区版本和专业版本,不过和v1版本相比较,增强了一些功能特性( quotas, extended attributes, ACL support, MFS CLI tool, better memory management.)目前可以通过v1版本进行源代码的研究分析,最新的是v1.6.27-5。国内百度有基于MooseFS的深度二次开发,叫Shadow转载 2017-10-16 17:25:30 · 1427 阅读 · 0 评论