FastDFS入门

1.FastDFS简介

FastDFS是一个开源的轻量级分布式文件系统，它对文件进行管理，功能包括：文件存储、文件同步、文件访问（文件上传、文件下载）等，解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务，如相册网站、视频网站等等。

FastDFS为互联网量身定制，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重高可用、高性能等指标，使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

FastDFS 架构包括 Tracker server 和 Storage server。客户端请求 Tracker server 进行文件上传、下载，通过Tracker server 调度最终由 Storage server 完成文件上传和下载。

Tracker server 作用是负载均衡和调度，通过 Tracker server 在文件上传时可以根据一些策略找到Storage server 提供文件上传服务。可以将 tracker 称为追踪服务器或调度服务器。Storage server 作用是文件存储，客户端上传的文件最终存储在 Storage 服务器上，Storageserver 没有实现自己的文件系统而是利用操作系统的文件系统来管理文件。可以将storage称为存储服务器。

上传流程

http://192.168.93.132:8080/group1/M00/00/00/wKhdhGD3v76AH_qhAB6JVwOg_LY490.jpg

组名：文件上传后所在的 storage 组名称，在文件上传成功后有storage 服务器返回，需要客户端自行保存。

虚拟磁盘路径：storage 配置的虚拟路径，与磁盘选项store_path*对应。如果配置了

store_path0 则是 M00，如果配置了 store_path1 则是 M01，以此类推。

数据两级目录：storage 服务器在每个虚拟磁盘路径下创建的两级目录，用于存储数据

文件。

文件名：与文件上传时不同。是由存储服务器根据特定信息生成，文件名包含：源存储

服务器 IP 地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

安装镜像

2.FastDFS搭建

没有学过docker的朋友可能搞不出来建议学一下

我使用的是Docker搭建FastDFS的开发环境，Docker下载fastdfs 的镜像

拉取镜像(已经下载了该镜像，大家无需下载了

docker pull morunchang/fastdfs

运行tracker

docker run -d --name tracker --net=host morunchang/fastdfs sh tracker.sh

运行storage

docker run -d --name storage --net=host -e TRACKER_IP=192.168.93.132:22122 -e GROUP_NAME=group1 morunchang/fastdfs sh storage.sh

• 使用的网络模式是–net=host, 192.168.211.132是宿主机的IP
• group1是组名，即storage的组
• 如果想要增加新的storage服务器，再次运行该命令，注意更换 新组名

1.2 配置Nginx

Nginx在这里主要提供对FastDFS图片访问的支持，Docker容器中已经集成了Nginx，我们需要修改nginx的配置,进入storage的容器内部，修改nginx.conf

docker exec -it storage  /bin/bash

进入后

vi /etc/nginx/conf/nginx.conf

添加以下内容

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-hkc6Itnm-1626851177200)(G:/百度网盘下载/畅购商城/文档和源码/畅购源码课件/day02/讲义/image/1564792264719.png)]

上图配置如下：

location ~ /M00 {
     root /data/fast_data/data;
     ngx_fastdfs_module;
}

禁止缓存：

add_header Cache-Control no-store;

退出容器

exit

重启storage容器

docker restart storage

查看启动容器docker ps

9f2391f73d97 morunchang/fastdfs "sh storage.sh" 12 minutes ago Up 12 seconds storage
e22a3c7f95ea morunchang/fastdfs "sh tracker.sh" 13 minutes ago Up 13 minutes tracker

开启启动设置

docker update --restart=always tracker
docker update --restart=always storage

1.3 文件存储微服务

创建问价 管理微服务 xjggb-service-file 实现文件上传以及文件下载删除等功能

创建maven工程

添加依赖

 <!--依赖包-->
    <dependencies>
        <dependency>
            <groupId>net.oschina.zcx7878</groupId>
            <artifactId>fastdfs-client-java</artifactId>
            <version>1.27.0.0</version>
        </dependency>
    
    </dependencies>

1.4FastDFS配置

在resources文件夹下创建fasfDFS的配置文件fdfs_client.conf

connect_timeout=60
network_timeout=60
charset=UTF-8
http.tracker_http_port=8080
tracker_server=192.168.93.132:22122

connect_timeout：连接超时时间，单位为秒。

network_timeout：通信超时时间，单位为秒。发送或接收数据时。假设在超时时间后还不能发送或接收数据，则本次网络通信失败

charset： 字符集

http.tracker_http_port ：.tracker的http端口

tracker_server： tracker服务器IP和端口设置

1.5,配置核心文件

在resources文件夹下创建application.yml

spring:
  servlet:
    multipart:
      max-file-size: 10MB
      max-request-size: 10MB
  application:
    name: file
server:
  port: 18082
eureka:
  client:
    service-url:
      defaultZone: http://127.0.0.1:7001/eureka
  instance:
    prefer-ip-address: true
feign:
  hystrix:
    enabled: true

max-file-size是单个文件大小，max-request-size是设置总上传的数据大小

1.6配置启动类

@SpringBootApplication(exclude={DataSourceAutoConfiguration.class})//禁止加载DataSource的加载创建。
@EnableEurekaClient
public class FileApplication {

    public static void main(String[] args) {
        SpringApplication.run(FileApplication.class);
    }
}

1.6文件封装

文件上传一般都有文件的名字、文件的内容、文件的扩展名、文件的md5值、文件的作者等相关属性，我们可以创建一个对象封装这些属性，代码如下：

创建com.xjggb.file.FastDFSFile`代码如下：

public class FastDFSFile implements Serializable {

    //文件名字
    private String name;
    //文件内容
    private byte[] content;
    //文件扩展名
    private String ext;
    //文件MD5摘要值
    private String md5;
    //文件创建作者
    private String author;

    public FastDFSFile(String name, byte[] content, String ext, String md5, String author) {
        this.name = name;
        this.content = content;
        this.ext = ext;
        this.md5 = md5;
        this.author = author;
    }

    public FastDFSFile(String name, byte[] content, String ext) {
        this.name = name;
        this.content = content;
        this.ext = ext;
    }

    public FastDFSFile() {
    }

    //..get..set..toString
}

1.7文件上传代码

package com.xjggb.file;

import org.csource.common.MyException;
import org.csource.fastdfs.ClientGlobal;
import org.csource.fastdfs.StorageClient;
import org.csource.fastdfs.TrackerClient;
import org.csource.fastdfs.TrackerServer;

import javax.swing.*;
import java.io.IOException;

public class T {
    public static void main(String[] args) throws IOException, MyException {

//        加载配置文件
        String url ="D:\\changgou-parent\\changgou-service\\changgou-service-file\\src\\main\\resources\\fdfs_client.conf";
        ClientGlobal.init(url);

        //创建TrackerClient客户端对象
        TrackerClient trackerClient = new TrackerClient();
        //通过TrackerClient对象获取TrackerServer信息
        TrackerServer connection = trackerClient.getConnection();
        //获取StorageClient对象
        StorageClient storageClient = new StorageClient(connection, null);

        //执行文件上传

        String[] jpgs = storageClient.upload_file("C:\\Users\\lenovo\\Pictures\\Saved Pictures\\1.jpg", "jpg", null);
        for (String jpg : jpgs) {

            System.out.println(jpg);
        }
    }
}

1.8结果展示

1.9文件下载

public class T {
    public static void main(String[] args) throws IOException, MyException {
        String url ="D:\\changgou-parent\\changgou-service\\changgou-service-file\\src\\main\\resources\\fdfs_client.conf";
        ClientGlobal.init(url);
          //创建 TrackerClient对象
        TrackerClient trackerClient = new TrackerClient();
        //通过TrackerClient对象获取TrackerServer信息
        TrackerServer connection = trackerClient.getConnection();
        //获取
        StorageClient storageClient = new StorageClient(connection, null);

        //执行文件下载
        byte[] bytes = storageClient.download_file("group1", "M00/00/00/wKhdhGD3mlSAOeprAB6JVwOg_LY881.jpg");

        File file = new File(" D:\\1234.jpg");
        FileOutputStream fileOutputStream = new FileOutputStream(file);
        BufferedOutputStream bufferedOutputStream = new BufferedOutputStream(fileOutputStream);
        bufferedOutputStream.write(bytes);

        bufferedOutputStream.close();

        fileOutputStream.close();

3.工具类封装

1.创建 util.FastDFSClient.class

package com.xjggb.util;

import com.xjggb.file.FastDFSFile;
import org.csource.common.MyException;
import org.csource.fastdfs.ClientGlobal;
import org.csource.fastdfs.StorageClient;
import org.csource.fastdfs.TrackerClient;
import org.csource.fastdfs.TrackerServer;
import org.csource.common.NameValuePair;

import org.springframework.core.io.ClassPathResource;

import java.io.IOException;

public class FastDFSClient {
    /***
     * 初始化tracker信息
     */
    static {
        try {
            //获取tracker的配置文件fdfs_client.conf的位置
            String filePath = new ClassPathResource("fdfs_client.conf").getPath();
            //加载tracker配置信息
            ClientGlobal.init(filePath);
        } catch (Exception e) {
            e.printStackTrace();
        }
    }


    /*
    * 文件上传
    * 要上传的文件信息封装->FastDFSFile
    *   String[] 存储者  
    *     1：文件上传的存储的组名
    *     2：文件存储路径
    * */
    public static String[] upload(FastDFSFile file)  {

        //参数1 字节数组
        //参数2 扩展名(不带点)
        //参数3 元数据( 文件的大小,文件的作者,文件的创建时间戳)
        NameValuePair[] meta_list = new NameValuePair[]{new NameValuePair(file.getAuthor()), new NameValuePair(file.getName())};
        String[] uploadResults = null;
        try {
            //创建TrackerClient 客户端对象
            TrackerClient trackerClient = new TrackerClient();
            //通过TrackerClient对象获取TrackerServer信息
            TrackerServer connection = trackerClient.getConnection();
             //获取StorageClient对象
            StorageClient storageClient = new StorageClient(connection, null);

             //文件上传
             uploadResults = storageClient.upload_file(file.getContent(), file.getExt(), meta_list);


        } catch (IOException | MyException e) {
            e.printStackTrace();
        }

return uploadResults ;

    }


}

2.添加controller

  @PostMapping("/upload")
    public String upload(@RequestParam(value = "file") MultipartFile file) {
        try {
            //1. 创建图片文件对象(封装)
            //2. 调用工具类实现图片上传

            //String substring = file.getOriginalFilename().substring(file.getOriginalFilename().lastIndexOf(".") + 1);

            FastDFSFile fastdfsfile = new FastDFSFile(
                    file.getOriginalFilename(),//原来的文件名  1234.jpg
                    file.getBytes(),//文件本身的字节数组
                    StringUtils.getFilenameExtension(file.getOriginalFilename())
            );
            String[] upload = FastDFSClient.upload(fastdfsfile);

            //  upload[0] group1
            //  upload[1] M00/00/00/wKjThF1aW9CAOUJGAAClQrJOYvs424.jpg
            //3. 拼接图片的全路径返回
            // http://192.168.211.132:8080  +
            return "http:192.168.93.132:8080"+"/"+upload[0]+"/"+upload[1];
        } catch (IOException e) {
            e.printStackTrace();
        }
        return null;
    }

3.使用Pastman

4.上传成功

4.完整工具类

package com.xjggb.util;

import com.xjggb.file.FastDFSFile;
import org.csource.common.MyException;
import org.csource.fastdfs.*;
import org.csource.common.NameValuePair;

import org.springframework.core.io.ClassPathResource;

import java.io.ByteArrayInputStream;
import java.io.IOException;
import java.io.InputStream;

public class FastDFSClient {
    /***
     * 初始化tracker信息
     */
    static {
        try {
            //获取tracker的配置文件fdfs_client.conf的位置
            String filePath = new ClassPathResource("fdfs_client.conf").getPath();
            //加载tracker配置信息
            ClientGlobal.init(filePath);
        } catch (Exception e) {
            e.printStackTrace();
        }
    }


    /*
    * 文件上传
    * 要上传的文件信息封装->FastDFSFile
    *   String[] 存储者  
    *     1：文件上传的存储的组名
    *     2：文件存储路径
    * */
    public static String[] upload(FastDFSFile file)  {

        //参数1 字节数组
        //参数2 扩展名(不带点)
        //参数3 元数据( 文件的大小,文件的作者,文件的创建时间戳)
        NameValuePair[] meta_list = new NameValuePair[]{new NameValuePair(file.getAuthor()), new NameValuePair(file.getName())};
        String[] uploadResults = null;
        try {
            //创建TrackerClient 客户端对象
            TrackerClient trackerClient = new TrackerClient();
            //通过TrackerClient对象获取TrackerServer信息
            TrackerServer connection = trackerClient.getConnection();
             //获取StorageClient对象
            StorageClient storageClient = new StorageClient(connection, null);

             //文件上传
             uploadResults = storageClient.upload_file(file.getContent(), file.getExt(), meta_list);


        } catch (IOException | MyException e) {
            e.printStackTrace();
        }

return uploadResults ;

    }

    /*
    * 获取文件信息
    *String groupName :组名
    * String remoteFileName :文件存储的名字
    * */
    public static FileInfo getFile(String groupName, String remoteFileName){
        try {
            StorageClient storageClient = getStorageClient();
            //获取文件信息
            return storageClient.get_file_info(groupName,remoteFileName);

        } catch (Exception e) {
            e.printStackTrace();
        }
        return null;
    }

    /*
    * 文件下载
     *String groupName :组名
     * String remoteFileName :文件存储的名字
    * */
    public static InputStream downFile(String groupName, String remoteFileName){

        try {
//            获取storageClient 对象
            StorageClient storageClient = getStorageClient();
            //通过StorageClient下载文件
            byte[] bytes = storageClient.download_file(groupName, remoteFileName);

            //将字节数组转换成字节输入流
            return new ByteArrayInputStream(bytes);

        } catch (Exception e) {
            e.printStackTrace();
        }
        return null;
    }

    /*
    * 文件删除
     *String groupName :组名
     * String remoteFileName :文件存储的名字
    * */
    public static void deleteFile(String groupName, String remoteFileName)  {

        try {
//            获取StorageClient对象
            StorageClient storageClient = getStorageClient();

//            通过StorageClient。删除文件
            storageClient.delete_file(groupName,remoteFileName);


        } catch (Exception e) {
            e.printStackTrace();
        }
    }

    /*
    * 获取组信息
    * */
    public static StorageServer getStorages(String groupName){
        try {
            //创建TrackerClient对象
            TrackerClient trackerClient = new TrackerClient();
            //通过TrackerClient获取TrackerServer对象
            TrackerServer trackerServer = trackerClient.getConnection();
            //通过trackerClient获取Storage组信息
            return trackerClient.getStoreStorage(trackerServer,groupName);
        } catch (Exception e) {
            e.printStackTrace();
        }
        return null;
    }

  /*
   * 根据文件组名和文件存储路径获取Storage服务的IP、端口信息
   * groupName :组名
   *  remoteFileName ：文件存储完整名
   * */
    public static ServerInfo[] getServerInfo(String groupName, String remoteFileName){
        try {
            //创建TrackerClient对象
            TrackerClient trackerClient = new TrackerClient();
            //通过TrackerClient获取TrackerServer对象
            TrackerServer trackerServer = trackerClient.getConnection();
            //获取服务信息
            return trackerClient.getFetchStorages(trackerServer,groupName,remoteFileName);
        } catch (Exception e) {
            e.printStackTrace();
        }
        return null;
    }

    /***
     * 获取Tracker服务地址
     */
    public static String getTrackerUrl(){
        try {
            //创建TrackerClient对象
            TrackerClient trackerClient = new TrackerClient();
            //通过TrackerClient获取TrackerServer对象
            TrackerServer trackerServer = trackerClient.getConnection();
            //获取Tracker地址
            return "http://"+trackerServer.getInetSocketAddress().getHostString()+":"+ClientGlobal.getG_tracker_http_port();
        } catch (IOException e) {
            e.printStackTrace();
        }
        return null;
    }

    /*
    * 获取TrackerServer
    * */
    public static TrackerServer getTrackerServer() throws Exception{
        //创建TrackerClient对象
        TrackerClient trackerClient = new TrackerClient();
        //通过TrackerClient获取TrackerServer对象
        TrackerServer trackerServer = trackerClient.getConnection();
        return trackerServer;
    }

    /*
    * 获取StorageClient
    * */
    public static StorageClient getStorageClient() throws Exception {
        //获取TrackerServer
        TrackerServer trackerServer = getTrackerServer();
        //通过TrackerServer创建StorageClient
        StorageClient storageClient = new StorageClient(trackerServer,null);
        return storageClient;
    }


}