利用FastDFS和Nginx构建高可用的DFS分布式文件服务器

最近在重构以前做过的电商项目，知识库项目的服务器架构。电商项目由于服务端需要存储商家上传的海量的图片，知识库系统需要存储大量的用户上传的各种格式的文件，为了实现高可用应对高并发，所以需要单独抽离出一套文件服务器系统来处理，该文件服务器须满足以下几个特点：负载均衡、线性扩容、冗余备份。

以JavaWeb项目为例。

之前的方式：

打成一个war包放在一台Tomcat容器下。将用户上传的文件直接存储在webapp目录。

这种，方式的缺点是显而易见的：Tomcat本身不适合做静态资源的存储访问。性能比较差。但总得来说，最初用户量不大时，这种架构是没有什么问题的。但后期，随着用户量的增大，用户对文件的访问速度越来越慢，更要命的是随着并发量的增大，由于一台Tomcat最多只能应付400多的并发量，超过这个并发量，tomcat随时会挂掉。所以，需要将其扩展到集群架构。

架构升级：

假设我们现在多了一台Tomcat服务器，并采用了负载均衡。

此时，如果还将用户存储的文件放在webapp目录下，其问题是致命的。假设A用户在上传文件，此时上传文件1到Tomcat1，上传成功后，用户去查看自己刚刚上传的文件，由于负载均衡，假设他此时访问的是Tomcat2,由于Tomcat2 webapp目录下并不存在文件1，就会报404。所以，我们的做法需要引进单独的文件服务器系统。

最终升级：

   

最终解决方案：搭建一个文件服务器，专门保存文件。可以使用分布式文件系统FastDFS。由于Tomcat并不适合做静态资源的访问，Apache和Nginx对静态资源的访问比较友好。我们采用Nginx作为文件服务器端的Http服务器。

什么是FastDFS?

FastDFS是用c语言编写的一款开源的分布式文件系统。FastDFS为互联网量身定制，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重高可用、高性能等指标，使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

喜大普奔，这样我们可以用FastDFS构建一个存储空间可以横向扩展，提供一个统一的访问方式，支持每个节点有备份机，可以实现服务器的高可用的分布式文件系统。

FastDFS架构

FastDFS架构包括 Tracker server和Storage server。客户端请求Tracker server进行文件上传、下载，通过Tracker server调度最终由Storage server完成文件上传和下载。
Tracker server作用是负载均衡和调度，通过Tracker server在文件上传时可以根据一些策略找到Storage server提供文件上传服务。可以将tracker称为追踪服务器或调度服务器。
Storage server作用是文件存储，客户端上传的文件最终存储在Storage服务器上，Storage server没有实现自己的文件系统而是利用操作系统 的文件系统来管理文件。可以将storage称为存储服务器。

服务端两个角色：

Tracker：管理集群，tracker也可以实现集群。每个tracker节点地位平等。收集Storage集群的状态。

Storage：实际保存文件。Storage分为多个组，每个组之间保存的文件是不同的。每个组内部可以有多个成员，组成员内部保存的内容是一样的，组成员的地位是一致的，没有主从的概念。

文件上传的流程

客户端上传文件后存储服务器将文件ID返回给客户端，此文件ID用于以后访问该文件的索引信息。文件索引信息包括：组名，虚拟磁盘路径，数据两级目录，文件名：

 

• 组名：文件上传后所在的storage组名称，在文件上传成功后有storage服务器返回，需要客户端自行保存。
• 虚拟磁盘路径：storage配置的虚拟路径，与磁盘选项store_path*对应。如果配置了store_path0则是M00，如果配置了store_path1则是M01，以此类推。
• 数据两级目录：storage服务器在每个虚拟磁盘路径下创建的两级目录，用于存储数据文件。（目录00-FF，两级=256*256个目录）
• 文件名：与文件上传时不同。是由存储服务器根据特定信息生成，文件名包含：源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

文件下载

由于整个文件集群的搭建比较复杂，具体可以下载参考：

分布式存储 CentOS6.5虚拟机环境搭建FastDFS-5.0.5集群.pdf

图片服务器使用

这里我采用的是maven工程，由于maven中心仓库没有相关的仓库，需要先将FastDFS官方提供的客户端Java工程转成maven工程，在本地仓库打成Jar包。

FastDFS的Jar包和maven工程

上传图片测试

/**
 * 
 * @ClassName: FastDFSTest
 * @Description: FastDFS图片服务器测试类
 * @Company: xx有限公司
 * @author 吴杰
 * @date 2018年8月8日
 */
public class FastDFSTest {

	@Test
	public void uploadFastDFSFile() throws Exception {
		// 1、向工程中添加jar包
		// 2、创建一个配置文件。配置tracker服务器地址
		// 3、加载配置文件
		ClientGlobal.init("I:/Code/EclipseEEWorkspace/freesub-manager-web/src/main/resources/resource/fastdfsclient.conf");
		//4、创建一个TrackerClient对象。
		TrackerClient trackerClient = new TrackerClient();
		//5、使用TrackerClient对象获得trackerserver对象
		TrackerServer connection = trackerClient.getConnection();
		//6、创建一个StorageServer的引用
		//7、创建一个StorageClient对象:trackerserver、StorageServer两个参数
		StorageClient storageClient = new StorageClient(connection, null);
		//8、使用StorageClient对象上传文件
		String[] paths = storageClient.upload_file("C:/Users/hp/Desktop/服务器系统架构演变.png", "png", null);
		for(String s : paths) {
			System.out.println(s);
		}
	}
}

测试结果：

访问图片地址成功：

查看Linux图片服务器文件物理地址，确实有这种图片

批量上传效果：

上传成功！