1.FastDFS简介
FastDFS是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。
FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。
FastDFS 架构包括 Tracker server 和 Storage server。客户端请求 Tracker server 进行文件上传、下载,通过Tracker server 调度最终由 Storage server 完成文件上传和下载。
Tracker server 作用是负载均衡和调度,通过 Tracker server 在文件上传时可以根据一些策略找到Storage server 提供文件上传服务。可以将 tracker 称为追踪服务器或调度服务器。Storage server 作用是文件存储,客户端上传的文件最终存储在 Storage 服务器上,Storageserver 没有实现自己的文件系统而是利用操作系统的文件系统来管理文件。可以将storage称为存储服务器。
上传流程
http://192.168.93.132:8080/group1/M00/00/00/wKhdhGD3v76AH_qhAB6JVwOg_LY490.jpg
组名:文件上传后所在的 storage 组名称,在文件上传成功后有storage 服务器返回,需要客户端自行保存。
虚拟磁盘路径:storage 配置的虚拟路径,与磁盘选项store_path*对应。如果配置了
store_path0 则是 M00,如果配置了 store_path1 则是 M01,以此类推。
数据两级目录:storage 服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据
文件。
文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储
服务器 IP 地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。
安装镜像
2.FastDFS搭建
没有学过docker的朋友可能搞不出来建议学一下
我使用的是Docker搭建FastDFS的开发环境,Docker下载fastdfs 的镜像
拉取镜像(已经下载了该镜像,大家无需下载了
docker pull morunchang/fastdfs
运行tracker
docker run -d --name tracker --net=host morunchang/fastdfs sh tracker.sh
运行storage
docker run -d --name storage --net=host -e TRACKER_IP=192.168.93.132:22122 -e GROUP_NAME=group1 morunchang/fastdfs sh storage.sh
- 使用的网络模式是–net=host, 192.168.211.132是宿主机的IP
- group1是组名,即storage的组
- 如果想要增加新的storage服务器,再次运行该命令,注意更换 新组名
1.2 配置Nginx
Nginx在这里主要提供对FastDFS图片访问的支持,Docker容器中已经集成了Nginx,我们需要修改nginx的配置,进入storage的容器内部,修改nginx.conf
docker exec -it storage /bin/bash
进入后
vi /etc/nginx/conf/nginx.conf
添加以下内容
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-hkc6Itnm-1626851177200)(G:/百度网盘下载/畅购商城/文档和源码/畅购源码课件/day02/讲义/image/1564792264719.png)]
上图配置如下:
location ~ /M00 {
root /data/fast_data/data;
ngx_fastdfs_module;
}
禁止缓存:
add_header Cache-Control no-store;
退出容器
exit
重启storage容器
docker restart storage
查看启动容器docker ps
9f2391f73d97 morunchang/fastdfs "sh storage.sh" 12 minutes ago Up 12 seconds storage
e22a3c7f95ea morunchang/fastdfs "sh tracker.sh" 13 minutes ago Up 13 minutes tracker
开启启动设置
docker update --restart=always tracker
docker update --restart=always storage
1.3 文件存储微服务
创建问价 管理微服务 xjggb-service-file 实现文件上传以及文件下载删除等功能
创建maven工程
添加依赖
<!--依赖包-->
<dependencies>
<dependency>
<groupId>net.oschina.zcx7878</groupId>
<artifactId>fastdfs-client-java</artifactId>
<version>1.27.0.0</version>
</dependency>
</dependencies>
1.4FastDFS配置
在resources文件夹下创建fasfDFS的配置文件fdfs_client.conf
connect_timeout=60
network_timeout=60
charset=UTF-8
http.tracker_http_port=8080
tracker_server=192.168.93.132:22122
connect_timeout:连接超时时间,单位为秒。
network_timeout:通信超时时间,单位为秒。发送或接收数据时。假设在超时时间后还不能发送或接收数据,则本次网络通信失败
charset: 字符集
http.tracker_http_port :.tracker的http端口
tracker_server: tracker服务器IP和端口设置
1.5,配置核心文件
在resources文件夹下创建application.yml
spring:
servlet:
multipart:
max-file-size: 10MB
max-request-size: 10MB
application:
name: file
server:
port: 18082
eureka:
client:
service-url:
defaultZone: http://127.0.0.1:7001/eureka
instance:
prefer-ip-address: true
feign:
hystrix:
enabled: true
max-file-size是单个文件大小,max-request-size是设置总上传的数据大小
1.6配置启动类
@SpringBootApplication(exclude={DataSourceAutoConfiguration.class})//禁止加载DataSource的加载创建。
@EnableEurekaClient
public class FileApplication {
public static void main(String[] args) {
SpringApplication.run(FileApplication.class);
}
}
1.6文件封装
文件上传一般都有文件的名字、文件的内容、文件的扩展名、文件的md5值、文件的作者等相关属性,我们可以创建一个对象封装这些属性,代码如下:
创建com.xjggb.file.FastDFSFile`代码如下:
public class FastDFSFile implements Serializable {
//文件名字
private String name;
//文件内容
private byte[] content;
//文件扩展名
private String ext;
//文件MD5摘要值
private String md5;
//文件创建作者
private String author;
public FastDFSFile(String name, byte[] content, String ext, String md5, String author) {
this.name = name;
this.content = content;
this.ext = ext;
this.md5 = md5;
this.author = author;
}
public FastDFSFile(String name, byte[] content, String ext) {
this.name = name;
this.content = content;
this.ext = ext;
}
public FastDFSFile() {
}
//..get..set..toString
}
1.7文件上传代码
package com.xjggb.file;
import org.csource.common.MyException;
import org.csource.fastdfs.ClientGlobal;
import org.csource.fastdfs.StorageClient;
import org.csource.fastdfs.TrackerClient;
import org.csource.fastdfs.TrackerServer;
import javax.swing.*;
import java.io.IOException;
public class T {
public static void main(String[] args) throws IOException, MyException {
// 加载配置文件
String url ="D:\\changgou-parent\\changgou-service\\changgou-service-file\\src\\main\\resources\\fdfs_client.conf";
ClientGlobal.init(url);
//创建TrackerClient客户端对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient对象获取TrackerServer信息
TrackerServer connection = trackerClient.getConnection();
//获取StorageClient对象
StorageClient storageClient = new StorageClient(connection, null);
//执行文件上传
String[] jpgs = storageClient.upload_file("C:\\Users\\lenovo\\Pictures\\Saved Pictures\\1.jpg", "jpg", null);
for (String jpg : jpgs) {
System.out.println(jpg);
}
}
}
1.8结果展示
1.9文件下载
public class T {
public static void main(String[] args) throws IOException, MyException {
String url ="D:\\changgou-parent\\changgou-service\\changgou-service-file\\src\\main\\resources\\fdfs_client.conf";
ClientGlobal.init(url);
//创建 TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient对象获取TrackerServer信息
TrackerServer connection = trackerClient.getConnection();
//获取
StorageClient storageClient = new StorageClient(connection, null);
//执行文件下载
byte[] bytes = storageClient.download_file("group1", "M00/00/00/wKhdhGD3mlSAOeprAB6JVwOg_LY881.jpg");
File file = new File(" D:\\1234.jpg");
FileOutputStream fileOutputStream = new FileOutputStream(file);
BufferedOutputStream bufferedOutputStream = new BufferedOutputStream(fileOutputStream);
bufferedOutputStream.write(bytes);
bufferedOutputStream.close();
fileOutputStream.close();
3.工具类封装
1.创建 util.FastDFSClient.class
package com.xjggb.util;
import com.xjggb.file.FastDFSFile;
import org.csource.common.MyException;
import org.csource.fastdfs.ClientGlobal;
import org.csource.fastdfs.StorageClient;
import org.csource.fastdfs.TrackerClient;
import org.csource.fastdfs.TrackerServer;
import org.csource.common.NameValuePair;
import org.springframework.core.io.ClassPathResource;
import java.io.IOException;
public class FastDFSClient {
/***
* 初始化tracker信息
*/
static {
try {
//获取tracker的配置文件fdfs_client.conf的位置
String filePath = new ClassPathResource("fdfs_client.conf").getPath();
//加载tracker配置信息
ClientGlobal.init(filePath);
} catch (Exception e) {
e.printStackTrace();
}
}
/*
* 文件上传
* 要上传的文件信息封装->FastDFSFile
* String[] 存储者
* 1:文件上传的存储的组名
* 2:文件存储路径
* */
public static String[] upload(FastDFSFile file) {
//参数1 字节数组
//参数2 扩展名(不带点)
//参数3 元数据( 文件的大小,文件的作者,文件的创建时间戳)
NameValuePair[] meta_list = new NameValuePair[]{new NameValuePair(file.getAuthor()), new NameValuePair(file.getName())};
String[] uploadResults = null;
try {
//创建TrackerClient 客户端对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient对象获取TrackerServer信息
TrackerServer connection = trackerClient.getConnection();
//获取StorageClient对象
StorageClient storageClient = new StorageClient(connection, null);
//文件上传
uploadResults = storageClient.upload_file(file.getContent(), file.getExt(), meta_list);
} catch (IOException | MyException e) {
e.printStackTrace();
}
return uploadResults ;
}
}
2.添加controller
@PostMapping("/upload")
public String upload(@RequestParam(value = "file") MultipartFile file) {
try {
//1. 创建图片文件对象(封装)
//2. 调用工具类实现图片上传
//String substring = file.getOriginalFilename().substring(file.getOriginalFilename().lastIndexOf(".") + 1);
FastDFSFile fastdfsfile = new FastDFSFile(
file.getOriginalFilename(),//原来的文件名 1234.jpg
file.getBytes(),//文件本身的字节数组
StringUtils.getFilenameExtension(file.getOriginalFilename())
);
String[] upload = FastDFSClient.upload(fastdfsfile);
// upload[0] group1
// upload[1] M00/00/00/wKjThF1aW9CAOUJGAAClQrJOYvs424.jpg
//3. 拼接图片的全路径返回
// http://192.168.211.132:8080 +
return "http:192.168.93.132:8080"+"/"+upload[0]+"/"+upload[1];
} catch (IOException e) {
e.printStackTrace();
}
return null;
}
3.使用Pastman
4.上传成功
4.完整工具类
package com.xjggb.util;
import com.xjggb.file.FastDFSFile;
import org.csource.common.MyException;
import org.csource.fastdfs.*;
import org.csource.common.NameValuePair;
import org.springframework.core.io.ClassPathResource;
import java.io.ByteArrayInputStream;
import java.io.IOException;
import java.io.InputStream;
public class FastDFSClient {
/***
* 初始化tracker信息
*/
static {
try {
//获取tracker的配置文件fdfs_client.conf的位置
String filePath = new ClassPathResource("fdfs_client.conf").getPath();
//加载tracker配置信息
ClientGlobal.init(filePath);
} catch (Exception e) {
e.printStackTrace();
}
}
/*
* 文件上传
* 要上传的文件信息封装->FastDFSFile
* String[] 存储者
* 1:文件上传的存储的组名
* 2:文件存储路径
* */
public static String[] upload(FastDFSFile file) {
//参数1 字节数组
//参数2 扩展名(不带点)
//参数3 元数据( 文件的大小,文件的作者,文件的创建时间戳)
NameValuePair[] meta_list = new NameValuePair[]{new NameValuePair(file.getAuthor()), new NameValuePair(file.getName())};
String[] uploadResults = null;
try {
//创建TrackerClient 客户端对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient对象获取TrackerServer信息
TrackerServer connection = trackerClient.getConnection();
//获取StorageClient对象
StorageClient storageClient = new StorageClient(connection, null);
//文件上传
uploadResults = storageClient.upload_file(file.getContent(), file.getExt(), meta_list);
} catch (IOException | MyException e) {
e.printStackTrace();
}
return uploadResults ;
}
/*
* 获取文件信息
*String groupName :组名
* String remoteFileName :文件存储的名字
* */
public static FileInfo getFile(String groupName, String remoteFileName){
try {
StorageClient storageClient = getStorageClient();
//获取文件信息
return storageClient.get_file_info(groupName,remoteFileName);
} catch (Exception e) {
e.printStackTrace();
}
return null;
}
/*
* 文件下载
*String groupName :组名
* String remoteFileName :文件存储的名字
* */
public static InputStream downFile(String groupName, String remoteFileName){
try {
// 获取storageClient 对象
StorageClient storageClient = getStorageClient();
//通过StorageClient下载文件
byte[] bytes = storageClient.download_file(groupName, remoteFileName);
//将字节数组转换成字节输入流
return new ByteArrayInputStream(bytes);
} catch (Exception e) {
e.printStackTrace();
}
return null;
}
/*
* 文件删除
*String groupName :组名
* String remoteFileName :文件存储的名字
* */
public static void deleteFile(String groupName, String remoteFileName) {
try {
// 获取StorageClient对象
StorageClient storageClient = getStorageClient();
// 通过StorageClient。删除文件
storageClient.delete_file(groupName,remoteFileName);
} catch (Exception e) {
e.printStackTrace();
}
}
/*
* 获取组信息
* */
public static StorageServer getStorages(String groupName){
try {
//创建TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient获取TrackerServer对象
TrackerServer trackerServer = trackerClient.getConnection();
//通过trackerClient获取Storage组信息
return trackerClient.getStoreStorage(trackerServer,groupName);
} catch (Exception e) {
e.printStackTrace();
}
return null;
}
/*
* 根据文件组名和文件存储路径获取Storage服务的IP、端口信息
* groupName :组名
* remoteFileName :文件存储完整名
* */
public static ServerInfo[] getServerInfo(String groupName, String remoteFileName){
try {
//创建TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient获取TrackerServer对象
TrackerServer trackerServer = trackerClient.getConnection();
//获取服务信息
return trackerClient.getFetchStorages(trackerServer,groupName,remoteFileName);
} catch (Exception e) {
e.printStackTrace();
}
return null;
}
/***
* 获取Tracker服务地址
*/
public static String getTrackerUrl(){
try {
//创建TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient获取TrackerServer对象
TrackerServer trackerServer = trackerClient.getConnection();
//获取Tracker地址
return "http://"+trackerServer.getInetSocketAddress().getHostString()+":"+ClientGlobal.getG_tracker_http_port();
} catch (IOException e) {
e.printStackTrace();
}
return null;
}
/*
* 获取TrackerServer
* */
public static TrackerServer getTrackerServer() throws Exception{
//创建TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient获取TrackerServer对象
TrackerServer trackerServer = trackerClient.getConnection();
return trackerServer;
}
/*
* 获取StorageClient
* */
public static StorageClient getStorageClient() throws Exception {
//获取TrackerServer
TrackerServer trackerServer = getTrackerServer();
//通过TrackerServer创建StorageClient
StorageClient storageClient = new StorageClient(trackerServer,null);
return storageClient;
}
}