分布式文件存储FastDFS

1 FastDFS简介

1. FastDFS体系结构

FastDFS是一个开源的轻量级分布式文件系统，它对文件进行管理，功能包括：文件存储、文件同步、文件访问（文件上传、文件下载）等，解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务，如相册网站、视频网站等等。

FastDFS为互联网量身定制，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重高可用、高性能等指标，使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

FastDFS 架构包括 Tracker server 和 Storage server。客户端请求 Tracker server 进行文件上传、下载，通过Tracker server 调度最终由 Storage server 完成文件上传和下载。

Tracker server 作用是负载均衡和调度，通过 Tracker server 在文件上传时可以根据一些策略找到Storage server 提供文件上传服务。可以将 tracker 称为追踪服务器或调度服务器。Storage server 作用是文件存储，客户端上传的文件最终存储在 Storage 服务器上，Storageserver 没有实现自己的文件系统而是利用操作系统的文件系统来管理文件。可以将storage称为存储服务器。

 2 上传流程

 客户端上传文件后存储服务器将文件 ID 返回给客户端，此文件 ID 用于以后访问该文件的索引信息。文件索引信息包括：组名，虚拟磁盘路径，数据两级目录，文件名。

组名：文件上传后所在的 storage 组名称，在文件上传成功后有storage 服务器返回，需要客户端自行保存。

虚拟磁盘路径：storage 配置的虚拟路径，与磁盘选项store_path*对应。如果配置了

store_path0 则是 M00，如果配置了 store_path1 则是 M01，以此类推。

数据两级目录：storage 服务器在每个虚拟磁盘路径下创建的两级目录，用于存储数据

文件。

文件名：与文件上传时不同。是由存储服务器根据特定信息生成，文件名包含：源存储

服务器 IP 地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

2 FastDFS安装

这五个安装包先上传到Linux系统上

 1.安装libfastcommon

tar -zvxf libfastcommon-1.0.53.tar.gz

cd libfastcommon-1.0.53/

#编译安装
./make.sh && ./make.sh install

2.安装FastDFS

tar -zvxf fastdfs-6.07.tar.gz

cd fastdfs-6.07/

#编译安装
./make.sh && ./make.sh install

#把conf目录下的文件复制到etc的fdfs目录下，供nginx访问使用
cp * /etc/fdfs/

注意：必须先安装了libfastcommon，不然此处编译报错！！！！

3.安装fastdfs-nginx-module

tar -zvxf fastdfs-nginx-module-1.22.tar.gz

cp fastdfs-nginx-module-1.22/src/mod_fastdfs.conf /etc/fdfs

4.安装ngx_cache_purge

下载地址：http://labs.frickle.com/files/ngx_cache_purge-2.3.tar.gz

tar -zvxf ngx_cache_purge-2.3.tar.gz

5.安装nginx

nginx需要依赖一些环境：

yum install gcc-c++

yum install -y pcre pcre-devel
yum install -y zlib zlib-devel

yum install -y openssl openssl-devel

6.安装Tracker服务

配置tracker服务，修改etc/fdfs/tracker.conf

vim /etc/fdfs/tracker.conf

找到base_path修改为安装目录下的tracker如下：

base_path=/root/fastdfs-6.07/tracker/

然后启动tracker

[root@localhost tracker]# /usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf

重启使用命令：

 /usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart

配置开机自启动：

将启动命令加入到配置文件中：

vim /etc/rc.d/rc.local 

7.安装Storage服务

vim /etc/fdfs/storage.conf

也是找到base_path修改为安装目录下的storage如下：

base_path =/root/fastdfs-6.07/storage/

然后找到store_path0修改：

store_path0 = /root/fastdfs-6.07/storage/

还有

tracker_server=192.168.2.2:22122

启动storage服务

/usr/bin/fdfs_storaged /etc/fdfs/storage.conf

配置开机自启动：

将启动命令加入到配置文件中：

vim /etc/rc.d/rc.local 

8.配置客户端
1.将安装目录下的/root/fastdfs-6.07/client/ 里面的libfdfsclient.so拷贝到/usr/lib 下

cp libfdfsclient.so /usr/lib/

 2.修改配置文件/etc/fdfs/client.conf

vim /etc/fdfs/client.conf

base_path =/root/fastdfs-6.07/client/

还有

tracker_server=192.168.2.2:22122

3.测试上传
在root目录下vim hi.html   随便写点东西

/usr/bin/fdfs_test /etc/fdfs/client.conf upload /root/hi.html

如果出现上传错误见这篇文章：

FastDFS上传文件报错：upload file fail, error no: 2, error info: No such file or directory_Java-请多指教的博客-CSDN博客

 成功示例：

9.让FastDFS具备http访问的能力

直接浏览器输入链接访问不到：http://192.168.0.108/group1/M00/00/00/wKgAbGKQka6AJlRrAAAACALHPhw40_big.html

Nginx是http服务器，需要借助nginx,因此上面已经装了Nginx+FastDFS插件

进入插件包/root/fastdfs-nginx-module-1.22/

1.修改src/config文件，把其中的local去掉

2.把src/mod_fastdfs.conf文件复制到/etc/fdfs目录下，并编辑

3.修改

vim /etc/fdfs/mod_fastdfs.conf

修改
tracker_server=192.168.2.2:22122
url_have_group_name = true
store_path0=/root/fastdfs-6.07/storage/

 4.去nginx中配置

 进入/root/nginx-1.20.2   nginx目录，对nginx重新config

./configure --add-module=/root/fastdfs-nginx-module-1.22/src/

跑完如图所示：

make

make install

 注意：nginx默认安装到了/usr/local/nginx目录下，所以接下来要进入此目录中

cd /usr/local/nginx

cd conf

vim nginx.conf

添加

location /group1/M00/ {

          add_header Cache-Control no-store;
          ngx_fastdfs_module;
        }

 禁止缓存    add_header Cache-Control no-store;

进入sbin目录启动nginx

cd sbin
./nginx

查看nginx进程是否启动

ps -aux | grep nginx

nginx 启动关闭命令

启动
./nginx

./nginx -s quit
此方式停止步骤是待nginx进程处理任务完毕进行停止。

./nginx -s stop
此方式相当于先查出nginx进程id再使用kill命令强制杀掉进程。

./nginx -s reload
重启
如：当 ngin 的配置文件 nginx.conf 修改后，要想让配置生效需要重启

浏览器再次访问http://192.168.0.108/group1/M00/00/00/wKgAbGKQka6AJlRrAAAACALHPhw40_big.html

成功页面：

问题：如果出现404错误，可以参考 【nginx】【fastdfs】报错ERROR - file: /root/fastdfs-nginx-module-1.22/src//common.c, line: 1101, st页面404错误_Java-请多指教的博客-CSDN博客