分布式文件系统FastDFS动态扩容

原创 2018年01月26日 09:28:35

  当用户量越来越大,则集群中某个group总会到达其极限,这时就得扩展集群的容量了。

FastDFS的扩容分为对group纵向扩容和横向扩容

  纵向扩容 指在同一个group组中增加服务器,实现数据冗余,数据备份。同一个group中最大容量取决于最小的storage的存储容量。因此如果还想继续使用此group,则需要对此group对应的所有服务器挂载同样容量的磁盘,指定store_path1……,但这样做的话成本相当的高,不推荐。

  横向扩容是通过集群实现,指新增一个group,增加整个FastDFS的存储空间。fastDFS的存储空间指的是所有group加起来的存储容量。

下面就横向扩容来做介绍

  在 高可用高性能分布式文件系统FastDFS进阶keepalived+nginx对多tracker进行高可用热备 中已经讲了如何配置集群的2个tracker和4个storage,分group1和group2,下面增加一组group3,也由2台服务器组成 group3:36、37。

安装storage

  按照 高可用高性能分布式文件系统FastDFS进阶keepalived+nginx对多tracker进行高可用热备 分别布署storage存储节点。

  安装 nginx和fastdfs-nginx-module 到 storage存储节36、37。

  将/etc/fdfs/storage.conf里面的 group_name=group3 其它内容与其它storage存储节一样。

然后开启这两个storage,并加入开机启动:

/usr/bin/fdfs_storaged /etc/fdfs/storage.conf
chkconfig fdfs_storaged on

查看集群状态,会显示整体内容:

/usr/bin/fdfs_monitor /etc/fdfs/storage.conf

安装配置nginx

/opt/nginx/conf/nginx.conf 文件内容与其它结点一样。

但修改/etc/fdfs/mod_fastdfs.conf

base_path=/data/fastdfs/storage
tracker_server=192.168.80.30:22122
tracker_server=192.168.80.31:22122
storage_server_port=23000
group_name=group3 # 第一组storage的组名
url_have_group_name=true
store_path0=/data/fastdfs/storage
group_count=2
[group1]
group_name=group1
storage_server_port=23000
store_path_count=1
store_path0=/data/fastdfs/storage
[group2]
group_name=group2
storage_server_port=23000
store_path_count=1
store_path0=/data/fastdfs/storage
[group3]
group_name=group3
storage_server_port=23000
store_path_count=1
store_path0=/data/fastdfs/storage

注意:

将存储结点32到37的/etc/fdfs/mod_fastdfs.conf里面都加上

[group3]
group_name=group3
storage_server_port=23000
store_path_count=1
store_path0=/data/fastdfs/storage

启动Nginx,并加和自启动

shell> /opt/nginx/sbin/nginx

上传测试文件到group3上。

浏览器访问测试时上传的文件,应该都能正常访问。
http://192.168.80.36:8888/group3/M00/00/00/CgNXGVpddOKANpzbAABdrZgsqUU369_big.jpg
http://192.168.80.37:8888/group3/M00/00/00/CgNXGVpddOKANpzbAABdrZgsqUU369_big.jpg

配置Nginx,设置tracker负载均衡以及缓存

vi /opt/nginx/conf/nginx.conf

添加以下内容

#设置 group3 的服务器
upstream fdfs_group3 {
server 192.168.80.36:8888 weight=1 max_fails=2 fail_timeout=30s;
server 192.168.80.37:8888 weight=1 max_fails=2 fail_timeout=30s;
}
        location /group3/M00 {
            proxy_next_upstream http_502 http_504 error timeout invalid_header; proxy_cache http-cache;
            proxy_cache_valid 200 304 12h;
            proxy_cache_key $uri$is_args$args;
            proxy_pass http://fdfs_group3;
            expires 30d;
        }

再重启nginx就行了。

  从上面来看,给集群增加group,storage的安装配置很简单,主要是 nginx和fastdfs-nginx-module的配置比较麻烦,需要手动添加组,因此要注意以上要注意的地方不要漏掉了。

版权声明:作者:欢醉 公众号【一个码农的日常】技术群:319931204 1号群: 437802986 2号群: 340250479 出处:http://blog.csdn.net/zs1041126478 本文版权归作者和博客共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利。

分布式文件存储系统fastDFS的扩容问题

FastDFS的扩容分纵向扩容与横向扩容。 纵向扩容并不是扩大存储空间, 而是保证文件的安全性。指在同一个group组中增加服务器,实现数据冗余,数据备份。同一个group中最大容量取决于最小的st...
  • sinat_37290116
  • sinat_37290116
  • 2017年01月10日 11:38
  • 757

一、分布式文件系统fastDFS-设计原理

一、分布式文件系统fastDFS-设计原理 FastDFS是一个开源的轻量级分布式文件系统,由跟踪服务器(tracker server)、存储服务器(storage server)和客户端(cl...
  • u010558660
  • u010558660
  • 2016年08月29日 15:25
  • 2749

各种分布式文件系统简介及适用场景

常见的分布式文件系统有,GFS、HDFS、Lustre 、Ceph 、GridFS 、mogileFS、TFS、FastDFS等。各自适用于不同的领域。它们都不是系统级的分布式文件系统,而是应用级的分...
  • rickiyeat
  • rickiyeat
  • 2016年12月27日 15:35
  • 4875

fastdfs group通过添加硬盘扩容

通过给group的机器添加硬盘的方式,实现某个group的扩容。 fastdfs在一台服务器支持多个store_path,每个store_path指向一个存储路径。url “M00/3F/E1/o...
  • newjueqi
  • newjueqi
  • 2015年08月28日 13:16
  • 6269

FastDFS分布式文件系统配置与部署

一文搞定FastDFS分布式文件系统配置与部署阅读目录相关文章1 分布式文件系统介绍2 系统架构介绍3 FastDFS性能方案4 Linux基本命令操作5 安装VirtualBox虚拟机并配置Ubun...
  • jared_he2017
  • jared_he2017
  • 2018年01月18日 14:01
  • 30

FastDFS+Nginx轻量级分布式文件系统安装使用

一 简介 FastDFS是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体...
  • whb123andy
  • whb123andy
  • 2015年07月08日 16:49
  • 950

FastDFS分布式文件系统集群安装与配置

FastDFS集群规划跟踪服务器负载均衡节点1:192.168.1.206 dfs-nginx-proxy-1 跟踪服务器负载均衡节点2:192.168.1.207 dfs-nginx-prox...
  • xyang81
  • xyang81
  • 2016年10月29日 17:05
  • 12936

Ubuntu下FastDFS分布式文件系统配置与部署

1 分布式文件系统介绍 分布式文件系统:Distributed file system, DFS,又叫做网络文件系统:Network File System。一种允许文件通过网络在多台主机上...
  • u013952452
  • u013952452
  • 2018年01月22日 14:34
  • 73

分布式文件系统FastDFS最佳部署实践

FastDFS安装 FastDFS简介 FastDFS是一个国产开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负...
  • GreatElite
  • GreatElite
  • 2013年09月03日 22:07
  • 3509

分布式文件系统 - FastDFS 在 CentOS 下配置安装部署

 少啰嗦,直接装 看过上一篇分布式文件系统 - FastDFS 简单了解一下的朋友应该知道,本次安装是使用目前余庆老师开源的最新 V5.05 版本,是余庆老师放在 Github 上的,和...
  • fhzh520
  • fhzh520
  • 2017年02月22日 18:46
  • 590
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:分布式文件系统FastDFS动态扩容
举报原因:
原因补充:

(最多只允许输入30个字)