分布式文件系统
分布式文件系统选型
方案1:购买服务
七牛云,阿里云对象存储,腾讯云对象存储等等。。。。。
数据量少的时候可以使用
方案2:自己搭建 选择一个分布式的文件系统软件 fastdfs hdfs等
数据量大的时候使用
Fastdfs是什么
FastDFS 是用 c 语言编写的一款开源的分布式文件系统。FastDFS 为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用 FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。
FastDFS 架构包括 Tracker server 和 Storage server。客户端请求 Tracker server 进行文件上传、下载,通过 Tracker server 调度最终由 Storage server 完成文件上传和下载。
Tracker server 作用是负载均衡和调度,通过 Tracker server 在文件上传时可以根据一些策略找到 Storage server 提供文件上传服务。可以将 tracker 称为追踪服务器或调度服务器。
Storage server 作用是文件存储,客户端上传的文件最终存储在 Storage 服务器上,Storageserver 没有实现自己的文件系统而是利用操作系统 的文件系统来管理文件。可以将storage称为存储服务器。
服务端两个角色:
Tracker:管理集群,tracker 也可以实现集群。每个 tracker 节点地位平等。收集 Storage 集群的状态。
Storage:实际保存文件 Storage 分为多个组,每个组之间保存的文件是不同的。每个组内部可以有多个成员,组成员内部保存的内容是一样的,组成员的地位是一致的,没有主从的概念。
上传
客户端上传文件后存储服务器将文件 ID 返回给客户端,此文件 ID 用于以后访问该文件的索引信息。文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。
组名(卷):文件上传后所在的 storage 组名称,在文件上传成功后有 storage 服务器返回,需要客户端自行保存。
虚拟磁盘路径:storage 配置的虚拟路径,与磁盘选项 store_path*对应。如果配置了
store_path0 则是 M00,如果配置了 store_path1 则是 M01,以此类推。
数据两级目录:storage 服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据
文件。
文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储
服务器 IP 地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。
下载
Fastdfs搭建-
方案1: Linux慢慢搭建-非常复杂,耗用资源
方案2:docker搭建-非常简单
https://blog.csdn.net/tttzzztttzzz/article/details/86709318
上传用22122端口
访问用8888端口
————————————————————————————————————————
代码实现
需求:将本地图片上传至图片服务器,再控制台打印url
(1)创建Maven工程fastDFSdemo
pom.xml中引入
<!-- https://mvnrepository.com/artifact/cn.bestwu/fastdfs-client-java -->
<dependency>
<groupId>cn.bestwu</groupId>
<artifactId>fastdfs-client-java</artifactId>
<version>1.27</version>
</dependency>
添加配置文件fdfs_client.conf ,设置服务器地址 和上传端口号
tracker_server=**************:22122 服务器自己去建或者购买
创建一个类
import org.csource.common.MyException;
import org.csource.fastdfs.*;
import java.io.IOException;
public class FastdfsTest {
public static void main(String[] args) throws IOException, MyException {
// 1、加载配置文件,配置文件中的内容就是 tracker 服务的地址。
ClientGlobal.init("D:/ideaWorkspace/main/resources/fdfs_client.conf");
// 2、创建一个 TrackerClient 对象。直接 new 一个。
TrackerClient trackerClient = new TrackerClient();
// 3、使用 TrackerClient 对象创建连接,获得一个 TrackerServer 对象。
TrackerServer trackerServer = trackerClient.getConnection();
// 4、创建一个 StorageServer 的引用,值为 null
StorageServer storageServer = null;
// 5、创建一个 StorageClient 对象,需要两个参数 TrackerServer 对象、StorageServer 的引用
StorageClient storageClient = new StorageClient(trackerServer, storageServer);
// 6、使用 StorageClient 对象上传图片。
//扩展名不带“.”
String[] strings = storageClient.upload_file("C:/Users/Administrator/Desktop/b2/F22.jpg", "jpg",
null);
// 7、返回数组。包含组名和图片的路径。
for (String string : strings) {
System.out.println(string);
}
}
}
注意 文件路径 和图片路径
控制台输出如下结果:
group1
M00/01/2B/wKgABGBDHn-ANnECAAETq-bml3w526.jpg
在浏览器输入:服务器ip 地址 不用加端口 默认80就可以查看图片
http://**********/group1/M00/01/2B/wKgABGBDHn-ANnECAAETq-bml3w526.jpg
真实项目开发
前端页面 Elementui 组件
<el-upload
class="upload-demo"
action="/api/fastDfs/upload"
:on-preview="handlePreview"
:on-remove="handleRemove"
:on-success="handleSuccess"
:file-list="fileList"
list-type="picture">
<el-button size="small" type="primary">点击上传</el-button>
<div slot="tip" class="el-upload__tip">只能上传jpg/png文件,且不超过500kb</div>
</el-upload>
action="/api/fastDfs/upload" 文件上传地址
:on-preview=“handlePreview” 文件上传时事件
:on-remove=“handleRemove” 文件删除事件
:on-success=“handleSuccess” 文件上传成功事件
:file-list=“fileList” 上传图片 数组
后台工具类封装
import org.csource.fastdfs.*;
public class FastDfsApiOpr {
//从classpath
public static String CONF_FILENAME = FastDfsApiOpr.class.getClassLoader()
.getResource("fdfs_client.conf").getFile();
/**
* 上传文件
* @param file
* @param extName
* @return
*/
public static String upload(byte[] file,String extName) {
try {
ClientGlobal.init(CONF_FILENAME);
TrackerClient tracker = new TrackerClient();
TrackerServer trackerServer = tracker.getConnection();
StorageServer storageServer = null;
StorageClient storageClient = new StorageClient(trackerServer, storageServer);
String fileIds[] = storageClient.upload_file(file, extName, null);
System.out.println(fileIds.length);
System.out.println("组名:" + fileIds[0]);
System.out.println("路径: " + fileIds[1]);
return "/"+fileIds[0]+"/"+fileIds[1];
} catch (Exception e) {
e.printStackTrace();
return null;
}
}
/**
* 上传文件
* @param extName
* @return
*/
public static String upload(String path,String extName) {
try {
ClientGlobal.init(CONF_FILENAME);
TrackerClient tracker = new TrackerClient();
TrackerServer trackerServer = tracker.getConnection();
StorageServer storageServer = null;
StorageClient storageClient = new StorageClient(trackerServer, storageServer);
String fileIds[] = storageClient.upload_file(path, extName,null);
System.out.println(fileIds.length);
System.out.println("组名:" + fileIds[0]);
System.out.println("路径: " + fileIds[1]);
return "/"+fileIds[0]+"/"+fileIds[1];
} catch (Exception e) {
e.printStackTrace();
return null;
}
}
/**
* 下载文件
* @param groupName
* @param fileName
* @return
*/
public static byte[] download(String groupName,String fileName) {
try {
ClientGlobal.init(CONF_FILENAME);
TrackerClient tracker = new TrackerClient();
TrackerServer trackerServer = tracker.getConnection();
StorageServer storageServer = null;
StorageClient storageClient = new StorageClient(trackerServer, storageServer);
byte[] b = storageClient.download_file(groupName, fileName);
return b;
} catch (Exception e) {
e.printStackTrace();
return null;
}
}
/**
* 删除文件
* @param groupName
* @param fileName
*/
public static void delete(String groupName,String fileName){
try {
ClientGlobal.init(CONF_FILENAME);
TrackerClient tracker = new TrackerClient();
TrackerServer trackerServer = tracker.getConnection();
StorageServer storageServer = null;
StorageClient storageClient = new StorageClient(trackerServer,
storageServer);
int i = storageClient.delete_file(groupName,fileName);
System.out.println( i==0 ? "删除成功" : "删除失败:"+i);
} catch (Exception e) {
e.printStackTrace();
throw new RuntimeException("删除异常,"+e.getMessage());
}
}
}
controller层
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.multipart.MultipartFile;
import java.io.IOException;
@RestController
@RequestMapping("/fastDfs")
public class FastDfsController {
@PostMapping("upload")
public AjaxResult upload(MultipartFile file){
try {
/* System.out.println(file.getName()+"名字");
System.out.println(file.getOriginalFilename()+"原始名字");
System.out.println(file.getSize()+"文件大小");*/
String originalFilename = file.getOriginalFilename();
// 分割原始名字 得到后缀 xxx.jpg
String extName = originalFilename.substring(originalFilename.lastIndexOf(".")+1);
//调用工具类 上传文件
String filePath = FastDfsApiOpr.upload(file.getBytes(), extName);
System.out.println("文件路径"+filePath);
return AjaxResult.me().setResultObj(filePath); //把上传后的路径返回回去
} catch (IOException e) {
e.printStackTrace();
return AjaxResult.me().setMessage("上传失败!"+e.getMessage());
}
}
/**
* 参数:完整路径 /goup1/xxxxx/yyyy
* 返回值:成功与否,还要返回地址
*
*/
/* @DeleteMapping
public AjaxResult del(@RequestParam(required = true,value = "path") String path){
String pathTmp = path.substring(1); // goup1/xxxxx/yyyy
String groupName = pathTmp.substring(0, pathTmp.indexOf("/")); //goup1
String remotePath = pathTmp.substring(pathTmp.indexOf("/")+1);// /xxxxx/yyyy
System.out.println(groupName);
System.out.println(remotePath);
FastDfsUtil.delete(groupName, remotePath);
return AjaxResult.me();
}*/
}
前端处理
//文件上传成功时的方法
handleSuccess(response, file, fileList){
console.log("===========")
console.log(response);
console.log(file);
console.log(fileList);
this.shop.logo = response.resultObj;
},
//文件移除时的方法
handleRemove(file, fileList) {
var filePath =file.response.resultObj;
this.$http.delete("/common/fastDfs/?path="+filePath)
.then(res=>{
if(res.data.success){
this.$message({
message: '删除成功!',
type: 'success'
});
}else{
this.$message({
message: '删除失败!',
type: 'error'
});
}
})
},