出现背景
在分布式集群环境下,文件上传至节点 A,这时通过负载均衡算法,访问到节点 B,则不能访问到文件,这时 会出现有时能访问有时不能访问的问题
同时要考虑为文件做 [ 冗余备份、负载均衡、线性扩容等功能 ],这些都是单节点文件上传所不具备的 。
FastDFS 体系结构
FastDFS 是一个开源的轻量级 [ 分布式文件系统 ] ,它对文件进行管理,功能包括:文件存储、文件同步、文件访问 (文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。
FastDFS 为互联网量身定制,充分考虑了 [ 冗余备份、负载均衡、线性扩容等机制 ],并注重高可用、高性能等指标, 使用 FastDFS 很容易搭建一套 [ 高性能的文件服务器集群提供文件上传、下载等服务 ]。
FastDFS 架构包括 [ Tracker server 和 Storage server ] 。客户端请求 Tracker server 进行文件上传、下载,通过 Tracker server 调度最终由 Storage server 完成文件上传和下载。
Tracker server 作用是 [ 负载均衡和调度 ],通过 Tracker server 在文件上传时可以根据一些策略 [ 轮询、随机等等 ] 找到Storage server 提供文件上传服务。可以将 tracker 称为追踪服务器或调度服务器。
Storage server 作用是 [ 文件存储 ],客户端上传 的文件最终存储在 Storage 服务器上,Storageserver 没有实现自己的文件系统而是利用操作系统的文件系统来管理文件。可以将 storage 称为存储服务器。
上传流程
文字解释:首先是 调度服务器与储存服务器之间 会定时发生 “心跳”,此时客户端发送上传请求,先在 Storage Server 进行查询是否可用,然后上传文件,成功的话会生成 file_id 返回,后面可根据此 file_id 进行查询或者删除等等 。
客户端上传文件后存储服务器将文件 ID 返回给客户端,此文件 ID 用于以后访问该文件的索引信息。
文件索引信息 包括:[ 组名,虚拟磁盘路径,数据两级目录,文件名。]
- 组名:文件上传后所在的 storage 组名称,在文件上传成功后有 storage 服务器返回,需要客户端自行保存。[ 即上面的卷1、卷 2 等等 ]
- 虚拟磁盘路径:storage 配置的虚拟路径,与磁盘选项 store_path 对应。[ 如果配置了 store_path0 则是 M00,如果配置了 store_path1 则是 M01,以此类推 ]。
- 数据两级目录:storage 服务器在每个虚拟磁盘路径下创建的两级目录 [ 哈希算法生成 ],用于存储数据文件 [ 目的是:使文件分散储存,便于查找 ]。
- 文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储服务器 IP 地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。