1 FastDFS简介
1. FastDFS体系结构
FastDFS是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。
FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。
FastDFS 架构包括 Tracker server 和 Storage server。客户端请求 Tracker server 进行文件上传、下载,通过Tracker server 调度最终由 Storage server 完成文件上传和下载。
Tracker server 作用是负载均衡和调度,通过 Tracker server 在文件上传时可以根据一些策略找到Storage server 提供文件上传服务。可以将 tracker 称为追踪服务器或调度服务器。Storage server 作用是文件存储,客户端上传的文件最终存储在 Storage 服务器上,Storageserver 没有实现自己的文件系统而是利用操作系统的文件系统来管理文件。可以将storage称为存储服务器。
2 上传流程
客户端上传文件后存储服务器将文件 ID 返回给客户端,此文件 ID 用于以后访问该文件的索引信息。文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。
组名:文件上传后所在的 storage 组名称,在文件上传成功后有storage 服务器返回,需要客户端自行保存。
虚拟磁盘路径:storage 配置的虚拟路径,与磁盘选项store_path*对应。如果配置了
store_path0 则是 M00,如果配置了 store_path1 则是 M01,以此类推。
数据两级目录:storage 服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据
文件。
文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储
服务器 IP 地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。
2 FastDFS安装
这五个安装包先上传到Linux系统上
1.安装libfastcommon
tar -zvxf libfastcommon-1.0.53.tar.gz
cd libfastcommon-1.0.53/
#编译安装
./make.sh && ./make.sh install
2.安装FastDFS
tar -zvxf fastdfs-6.07.tar.gz
cd fastdfs-6.07/
#编译安装
./make.sh && ./make.sh install
#把conf目录下的文件复制到etc的fdfs目录下,供nginx访问使用
cp * /etc/fdfs/
注意:必须先安装了libfastcommon,不然此处编译报错!!!!
3.安装fastdfs-nginx-module
tar -zvxf fastdfs-nginx-module-1.22.tar.gz
cp fastdfs-nginx-module-1.22/src/mod_fastdfs.conf /etc/fdfs
4.安装ngx_cache_purge
下载地址:http://labs.frickle.com/files/ngx_cache_purge-2.3.tar.gz
tar -zvxf ngx_cache_purge-2.3.tar.gz
5.安装nginx
nginx需要依赖一些环境:
yum install gcc-c++
yum install -y pcre pcre-devel
yum install -y zlib zlib-devel
yum install -y openssl openssl-devel
6.安装Tracker服务
配置tracker服务,修改etc/fdfs/tracker.conf
vim /etc/fdfs/tracker.conf
找到base_path修改为安装目录下的tracker如下:
base_path=/root/fastdfs-6.07/tracker/
然后启动tracker
[root@localhost tracker]# /usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf
重启使用命令:
/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart
配置开机自启动:
将启动命令加入到配置文件中:
vim /etc/rc.d/rc.local
7.安装Storage服务
vim /etc/fdfs/storage.conf
也是找到base_path修改为安装目录下的storage如下:
base_path =/root/fastdfs-6.07/storage/
然后找到store_path0修改:
store_path0 = /root/fastdfs-6.07/storage/
还有
tracker_server=192.168.2.2:22122
启动storage服务
/usr/bin/fdfs_storaged /etc/fdfs/storage.conf
配置开机自启动:
将启动命令加入到配置文件中:
vim /etc/rc.d/rc.local
8.配置客户端
1.将安装目录下的/root/fastdfs-6.07/client/ 里面的libfdfsclient.so拷贝到/usr/lib 下
cp libfdfsclient.so /usr/lib/
2.修改配置文件/etc/fdfs/client.conf
vim /etc/fdfs/client.conf
base_path =/root/fastdfs-6.07/client/
还有
tracker_server=192.168.2.2:22122
3.测试上传
在root目录下vim hi.html 随便写点东西
/usr/bin/fdfs_test /etc/fdfs/client.conf upload /root/hi.html
如果出现上传错误见这篇文章:
成功示例:
9.让FastDFS具备http访问的能力
直接浏览器输入链接访问不到:http://192.168.0.108/group1/M00/00/00/wKgAbGKQka6AJlRrAAAACALHPhw40_big.html
Nginx是http服务器,需要借助nginx,因此上面已经装了Nginx+FastDFS插件
进入插件包/root/fastdfs-nginx-module-1.22/
1.修改src/config文件,把其中的local去掉
2.把src/mod_fastdfs.conf文件复制到/etc/fdfs目录下,并编辑
3.修改
vim /etc/fdfs/mod_fastdfs.conf
修改
tracker_server=192.168.2.2:22122
url_have_group_name = true
store_path0=/root/fastdfs-6.07/storage/
4.去nginx中配置
进入/root/nginx-1.20.2 nginx目录,对nginx重新config
./configure --add-module=/root/fastdfs-nginx-module-1.22/src/
跑完如图所示:
make
make install
注意:nginx默认安装到了/usr/local/nginx目录下,所以接下来要进入此目录中
cd /usr/local/nginx
cd conf
vim nginx.conf
添加
location /group1/M00/ {
add_header Cache-Control no-store;
ngx_fastdfs_module;
}
禁止缓存 add_header Cache-Control no-store;
进入sbin目录启动nginx
cd sbin
./nginx
查看nginx进程是否启动
ps -aux | grep nginx
nginx 启动关闭命令
启动
./nginx
./nginx -s quit
此方式停止步骤是待nginx进程处理任务完毕进行停止。
./nginx -s stop
此方式相当于先查出nginx进程id再使用kill命令强制杀掉进程。
./nginx -s reload
重启
如:当 ngin 的配置文件 nginx.conf 修改后,要想让配置生效需要重启
浏览器再次访问http://192.168.0.108/group1/M00/00/00/wKgAbGKQka6AJlRrAAAACALHPhw40_big.html
成功页面:
问题:如果出现404错误,可以参考 【nginx】【fastdfs】报错ERROR - file: /root/fastdfs-nginx-module-1.22/src//common.c, line: 1101, st页面404错误_Java-请多指教的博客-CSDN博客