FastDFS入门到精通

FastDFS

---

什么是FastDFS？

• FastDFS是一个开源的轻量级分布式文件系统，它对文件进行管理，功能包括：文件存储、文件同步、文件访问（文件上传、文件下载）等，解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务，如相册网站、视频网站等等。

• FastDFS为互联网量身定制，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重高可用、高性能等指标，使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

---

提示：以下是本篇文章正文内容，下面案例可供参考

一、角色组成及架构

1.组成

• FastDFS服务端有两个角色：跟踪器（tracker）和存储节点（storage）。跟踪器主要做调度工作，在访问上起负载均衡的作用。
• 跟踪器和存储节点都可以由一台或多台服务器构成。跟踪器和存储节点中的服务器均可以随时增加或下线而不会影响线上服务。其中跟踪器中的所有服务器都是对等的，可以根据服务器的压力情况随时增加或减少。
• 存储节点存储文件，完成文件管理的所有功能：就是这样的存储、同步和提供存取接口，FastDFS同时对文件的metadata进行管理。所谓文件的meta data就是文件的相关属性，以键值对（key value）方式表示，如：width=1024，其中的key为width，value为1024。文件metadata是文件属性列表，可以包含多个键值对。
• 为了支持大容量，存储节点（服务器）采用了分卷（或分组）的组织方式。存储系统由一个或多个卷组成，卷与卷之间的文件是相互独立的，所有卷的文件容量累加就是整个存储系统中的文件容量。一个卷可以由一台或多台存储服务器组成，一个卷下的存储服务器中的文件都是相同的，卷中的多台存储服务器起到了冗余备份和负载均衡的作用。
• 在卷中增加服务器时，同步已有的文件由系统自动完成，同步完成后，系统自动将新增服务器切换到线上提供服务。FastDFS中的文件标识分为两个部分：卷名和文件名，二者缺一不可。

架构角色职责

tracker Server

• 主节点，跟踪服务器，主要做调度工作，在访问上起负载均衡的作用。
• 记录storage server的状态，是连接Client和Storage server的枢纽。
• FastDFS集群中的Tracker server可以有多台，Trackerserver之间是相互平等关系同时提供服务
• Trackerserver不存在单点故障。客户端请求Trackerserver采用轮询方式，如果请求的tracker无法提供服务则换另一个tracker。

Storage Server：

• 存储服务器，文件和meta data都保存到存储服务器上
• storage集群由一个或多个组构成，集群存储总容量为集群中所有组的存储容量之和。
• 一个组由一台或多台存储服务器组成，组内的Storage server之间是平等关系
• 不同组的Storageserver之间不会相互通信，同组内的Storageserver之间会相互连接进行文件同步，从而保证同组内每个storage上的文件完全一致的。
• 一个组的存储容量为该组内存储服务器容量最小的那个，由此可见组内存储服务器的软硬件配置最好是一致的。
• Storage server会连接集群中所有的Tracker server，定时向他们报告自己的状态，包括磁盘剩余空间、文件同步状况、文件上传下载次数等统计信息。

其它

• group：组，也称为卷。同组内服务器上的文件是完全相同的
• 文件标识：包括两部分：组名和文件名（包含路径）
• meta data：文件相关属性，键值对（Key Value Pair）方式，如：width=1024,heigth=768

上传流程

内部机制如下：

1、选择tracker server

当集群中不止一个tracker server时，由于tracker之间是完全对等的关系，客户端在upload文件时可以任意选择一个trakcer。
选择存储的group
当tracker接收到upload file的请求时，会为该文件分配一个可以存储该文件的group，支持如下选择group的规则：

• 1、Round robin，所有的group间轮询
• 2、Specified group，指定某一个确定的group
• 3、Load balance，剩余存储空间多多group优先

2、选择storage server

当选定group后，tracker会在group内选择一个storage server给客户端，支持如下选择storage的规则：

• 1、Round robin，在group内的所有storage间轮询
• 2、First server ordered by ip，按ip排序
• 3、First server ordered by priority，按优先级排序（优先级在storage上配置）

3、选择storage path

当分配好storage server后，客户端将向storage发送写文件请求，storage将会为文件分配一个数据存储目录，支持如下规则：

• 1、Round robin，多个存储目录间轮询
• 2、剩余存储空间最多的优先

4、生成Fileid

选定存储目录之后，storage会为文件生一个Fileid，由storage server ip、文件创建时间、文件大小、文件crc32和一个随机数拼接而成，然后将这个二进制串进行base64编码，转换为可打印的字符串。
选择两级目录
当选定存储目录之后，storage会为文件分配一个fileid，每个存储目录下有两级256*256的子目录，storage会按文件fileid进行两次hash（猜测），路由到其中一个子目录，然后将文件以fileid为文件名存储到该子目录下。

5、生成文件名

当文件存储到某个子目录后，即认为该文件存储成功，接下来会为该文件生成一个文件名，文件名由group、存储目录、两级子目录、fileid、文件后缀名（由客户端指定，主要用于区分文件类型）拼接而成。

下载流程

• client询问tracker下载文件的storage，参数为文件标识（组名和文件名）；
• tracker返回一台可用的storage；
• client直接和storage通讯完成文件下载。

binlog

• 每个storage写文件后，同时会写一份binlog，binlog里不包含文件数据，只包含文件名等元信息，这份binlog用于后台同步，storage会记录向group内其他storage同步的进度，以便重启后能接上次的进度继续同步；进度以时间戳的方式进行记录，所以最好能保证集群内所有server的时钟保持同步。

二、FastDFS 集群

集群构成

Nginx集群搭建

应用场景

• FastDFS 通过 Tracker 服务器,将文件放在 Storage 服务器存储，但是同组存储服务器之间需要进入文件复制，有同步延迟的问题。假设 Tracker 服务器将文件上传到了 S1，上传成功后文件 ID已经返回给客户端。

• 此时 FastDFS 存储集群机制会将这个文件同步到同组存储 S2，在文件还没有复制完成的情况下，客户端如果用这个文件 ID 在 S2 上取文件,就会出现文件无法访问的错误。

• 而 fastdfs-nginx-module 可以重定向文件连接到源服务器（S1）取文件,避免客户端由于复制延迟导致的文件无法访问错误。

搭建步骤

• Storage节点Nginx反向代理
• Tracker节点 负载均衡反向代理（在 tracker 上安装的 nginx 主要为了提供 http 访问的反向代理、负载均衡以及缓存服务）
• 安装keepalived保障nginx的高可用

三、FastDFS 应用

前端获取静态资源

• 场景：在WEB应用中可以直接访问FastDFS中的图片进行显示可以安装Nginx组件，可以使用HTTP协议直接访问Storage服务中存储的文件。
• 在storage结点所在服务器安装Nginx组件需要安装两部分内容：Nginx应用和FastDFS的组件fastdfs-nginx-module模块
• 具体搭建流程可参见 https://blog.51cto.com/suncj/6126786

java操作-springBoot

1.引入依赖

        <dependency>
            <groupId>com.github.tobato</groupId>
            <artifactId>fastdfs-client</artifactId>
            <version>1.26.5</version>
        </dependency>

2.添加配置

fdfs:
  # 超时时间
  connect-timeout: 600
  # 连接时间
  so-timeout: 1500
  #缩略图生成参数
  thumb-image:
   width: 100
   height: 100
  # 服务器地址
  tracker-list:
    - 192.168.xx.xx:2223

3.使用

 	#上传：
 	fastFileStorageClient.uploadFile()
 	#下载：
 	fastFileStorageClient.downloadFile()
 	#注：避免乱码问题设置请求头
 	response.setHeader("Content-Disposition", "attachment;filename=" + URLEncoder.encode(fileName,"UTF-8"));

四、FastDFS 拓展

主从文件

• 主从文件是指文件ID有关联的文件，一个主文件可以对应多个从文件。
  主文件ID = 主文件名 + 主文件扩展名
  从文件ID = 主文件名 + 从文件后缀名 + 从文件扩展名
• 使用主从文件的一个典型例子：以图片为例，主文件为原始图片，从文件为该图片的一张或多张缩略图。
• FastDFS中的主从文件只是在文件ID上有联系。FastDFS server端没有记录主从文件对应关系，因此删除主文件，FastDFS不会自动删除从文件。
  删除主文件后，从文件的级联删除，需要由应用端来实现。
• 主文件及其从文件均存放到同一个group中。
• 主从文件的生成顺序：
  1）先上传主文件（如原文件），得到主文件ID
  2）然后上传从文件（如缩略图），指定主文件ID和从文件后缀名（当然还可以同时指定从文件扩展名），得到从文件ID。

断点续传

• 先上传appender类型的文件，然后使用apend函数。
• 如果要实现多线程并发上传同一个大文件，可以先上传一个内容为空的appender类型文件，然后调用 truncate设置文件大小，在多线程中调用 modify上传文件内容。