二 微服务项目实战之分布式文件存储FastDFS

一 跨域解决方案CORS

1.1 什么是跨域

出于浏览器的同源策略限制。同源策略(Sameoriginpolicy)是一种约定,它是浏览器最核心也最基本的安全功能,如果缺少了同源策略,则浏览器的正常功能可能都会受到影响。可以说Web是构建在同源策略基础之上的,浏览器只是针对同源策略的一种实现。同源策略会阻止一个域的javascript脚本和另外一个域的内容进行交互。所谓同源(即指在同一个域)就是两个页面具有相同的协议(protocol)、主机(host)和端口号(port)(即只要协议、主机、端口三者有一个不一样,就是跨域)

如果跨域调用,会出现如下错误:

No ‘Access-Control-Allow-Origin’ header is present on the requested resource. Origin
‘http://localhost:9100’ is therefore not allowed access. The response had HTTP status code 400.

由于现在大部分项目采用的是前后端分离的编程方式,前端和后端必定存在跨域问题。解决跨域问题可以采用CORS

1.2 CORS简介

CORS 是一个 W3C 标准,全称是"跨域资源共享"(Cross-origin resource sharing)。CORS需要浏览器和服务器同时支持。目前,所有浏览器都支持该功能,IE 浏览器不能低于 IE10。它允许浏览器向跨源服务器,发出 XMLHttpRequest 请求,从而克服了 AJAX 只能同源使用的限制。整个 CORS 通信过程,都是浏览器自动完成,不需要用户参与。对于开发者来说,CORS 通信与同源的 AJAX 通信没有差别,代码完全一样。浏览器一旦发现 AJAX 请求跨源,就会自动添加一些附加的头信息,有时还会多出一次附加的请求,但用户不会有感觉。因此,实现 CORS 通信的关键是服务器。只要服务器实现了 CORS 接口,就可以跨源通信。

请求过程如下图:
在这里插入图片描述
Preflight Request:
在这里插入图片描述
然后服务器端给我们返回一个PreflightResponse
在这里插入图片描述
那么具体如何实现呢?
springMVC的版本在4.2或以上版本,可以使用注解实现跨域。 我们只需要在Controller类上添加注解@CrossOrigin就可以了。

二 分布式文件存储-FastDFS

2.1 FastDFS简介

2.1.1 FastDFS体系结构

FastDFS(阿里开源工具,fast开头的一般都是阿里的)是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。

FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

FastDFS 架构包括 Tracker server 和 Storage server。客户端请求 Tracker server 进行文件上传、下载,通过Tracker server 调度最终由 Storage server 完成文件上传和下载。

Tracker server 作用是负载均衡和调度中心(相当于Dubbo的注册中心),通过 Tracker server 在文件上传时可以根据一些策略找到Storage server 提供文件上传服务。可以将 tracker 称为追踪服务器或调度服务器。Storage server 作用是文件存储,客户端上传的文件最终存储在 Storage 服务器上,Storageserver 没有实现自己的文件系统而是利用操作系统的文件系统来管理文件。可以将storage称为存储服务器。

可以类比Dubbop服务注册、服务消费来理解FastDFS
在这里插入图片描述
Storage群里有多组,每个组有多个storage,多个组,合成后成为集群,同一个组里的多个Storage叫同步备份(容灾)
在这里插入图片描述

2.1.2 上传流程

在这里插入图片描述
StorageServer群会定时发送心跳给TrackerServer,传递信息,告诉TrackerServer哪些StorageServer还活着;

在这里插入图片描述

客户端上传文件后存储服务器将文件 ID 返回给客户端,此文件 ID 用于以后访问该文件的索引信息。文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。

在这里插入图片描述
group1:组名:文件上传后所在的 storage 组名称,在文件上传成功后有storage 服务器返回,需要客户端自行保存。

M00:虚拟磁盘路径:storage 配置的虚拟路径,与磁盘选项store_path*对应。如果配置了store_path0 则是 M00,如果配置了 store_path1 则是 M01,以此类推。该虚拟路径指向了storage组中某个节点的硬盘地址,比如:/etc/fdfs/data

02/44/:数据两级目录:storage 服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据
文件。

文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储
服务器 IP 地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

2.2 Docker搭建FastDFS

我们使用Docker搭建FastDFS的开发环境

拉取镜像

docker pull morunchang/fastdfs

运行tracker

# -d:后台运行  --name:起名字为tracker   morunchang/fastdfs:下载下来的镜像 
docker run -d --name tracker --net=host morunchang/fastdfs sh tracker.sh

运行storage

# -e:添加到环境变量里 
docker run -d --name storage --net=host -e TRACKER_IP=<your tracker server address>:22122 -e GROUP_NAME=<group name> morunchang/fastdfs sh storage.sh

如:
docker run -d --name storage --net=host -e TRACKER_IP=192.168.119.128:22122 -e GROUP_NAME=group1 morunchang/fastdfs sh storage.sh
  • 使用的网络模式是–net=host, <your tracker server address> 替换为你机器的Ip即可 (不要加尖括号)
  • <group name> 是组名,即storage的组 (不要加尖括号)
  • 如果想要增加新的storage服务器,再次运行该命令,注意更换 新组名

查看新部署的镜像

docker ps

重启虚拟机

reboot

在这里插入图片描述

修改nginx的配置

Nginx注意提供的是对FastDFS图片访问的支持,Docker容器中已经集成了Nginx,我们需要修改Nginx的配置(安装tracker和storage的时候,已经将Nginx安装好了)

在这里插入图片描述

进入storage的容器内部,修改nginx.conf

docker exec -it storage  /bin/bash

进入后

vi   /data/nginx/conf/nginx.conf

添加以下内容

location /group1/M00 {
   proxy_next_upstream http_502 http_504 error timeout invalid_header;
     proxy_cache http-cache;
     proxy_cache_valid  200 304 12h;
     proxy_cache_key $uri$is_args$args;
     proxy_pass http://fdfs_group1;
     expires 30d;
 }

禁止缓存

add_header Cache-Control no-store;

退出容器

exit

重启storage容器

docker restart storage

查看启动容器

docker ps

开启启动设置(开机后,docker里的容器自启动)

docker update --restart=always tracker
docker update --restart=always storage

2.3 文件存储微服务

创建文件管理微服务changgou_service_file,该工程主要用于实现文件上传以及文件删除等功能。

(1)修改pom.xml,引入依赖

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <parent>
        <artifactId>changgou_service</artifactId>
        <groupId>com.changgou</groupId>
        <version>1.0-SNAPSHOT</version>
    </parent>
    <modelVersion>4.0.0</modelVersion>

    <artifactId>changgou_service_file</artifactId>
    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
        <!--fastDFS客户端-->
            <groupId>net.oschina.zcx7878</groupId>
            <artifactId>fastdfs-client-java</artifactId>
            <version>1.27.0.0</version>
        </dependency>
        <dependency>
            <groupId>com.changgou</groupId>
            <artifactId>changgou_common</artifactId>
            <version>1.0-SNAPSHOT</version>
        </dependency>
    </dependencies>
</project>

(2)在resources文件夹下创建fasfDFS的配置文件fdfs_client.conf

connect_timeout = 60
network_timeout = 60
charset = UTF-8
http.tracker_http_port = 8080
tracker_server = 192.168.200.128:22122

connect_timeout:连接超时时间,单位为秒。

network_timeout:通信超时时间,单位为秒。发送或接收数据时,假设在超时时间后还不能发送或接收数据,则本次网络通信失败

charset: 字符集

http.tracker_http_port :.tracker的http请求端口

tracker_server: tracker服务器IP和端口设置(tracker的TCP通信端口)

(3)在resources文件夹下创建application.yml

spring:
  servlet:
    multipart:
      max-file-size: 10MB
      max-request-size: 10MB
server:
  port: 9008
eureka:
  client:
    service-url:
      defaultZone: http://127.0.0.1:6868/eureka
  instance:
    prefer-ip-address: true
feign:
  hystrix:
    enabled: true

max-file-size是单个文件大小,max-request-size是设置总上传的数据大小

(4)启动类 创建com.changgou包,创建启动类FileApplication

//不检测数据库连接信息,因为这里不需要连接数据库
@SpringBootApplication(exclude = DataSourceAutoConfiguration.class)
@EnableEurekaClient
public class FileApplication {
    public static void main(String[] args) {
        SpringApplication.run(FileApplication.class);
    }
}

2.4 文件上传

2.4.1 文件信息封装

文件上传一般都有文件的名字、文件的内容、文件的扩展名、文件的md5值、文件的作者等相关属性,我们可以创建一个对象封装这些属性,代码如下:

创建com.changgou.file.pojo.FastDFSFile

public class FastDFSFile {
	//文件名字
	private String name;
	//文件内容(文件的字节数组)
	private byte[] content;
	//文件扩展名
	private String ext;
	//文件MD5摘要值(记录文件的唯一值)
	private String md5;
	//文件创建作者
	private String author;

	public FastDFSFile(String name, byte[] content, String ext, String height,
					   String width, String author) {
		super();
		this.name = name;
		this.content = content;
		this.ext = ext;
		this.author = author;
	}

	public FastDFSFile(String name, byte[] content, String ext) {
		super();
		this.name = name;
		this.content = content;
		this.ext = ext;
	}

	// getter and setter ...
}

2.4.2 文件操作

创建FastDFSClient类,放在com.itheima.file.util下,在该类中实现FastDFS信息获取以及文件的相关操作,

代码如下:

package com.zkts.demo.util;

import com.zkts.demo.pojo.FastDFSFile;
import org.csource.common.MyException;
import org.csource.common.NameValuePair;
import org.csource.fastdfs.*;
import org.slf4j.LoggerFactory;
import org.springframework.core.io.ClassPathResource;

import java.io.*;

/**
 * @Author:sgw
 * @Date:2023/8/10
 * @Description:
 */
public class FastDFSClient {
    private static org.slf4j.Logger logger = LoggerFactory.getLogger(FastDFSClient.class);

    /***
     * 初始化加载FastDFS的TrackerServer配置
     */
    static {
        try {
            //TrackerServer配置信息地址
            //String filePath = new ClassPathResource("fdfs_client.conf").getPath();
            String filePath = new ClassPathResource("fdfs_client.conf").getFile().getAbsolutePath();
            //初始化连接TrackerServer
            ClientGlobal.init(filePath);
        } catch (Exception e) {
            logger.error("FastDFS Client Init Fail!",e);
        }
    }

    /***
     * 文件上传
     * @param file 封装上传的文件信息
     * @return
     */
    public static String[] upload(FastDFSFile file) {
        //获取文件的作者
        NameValuePair[] meta_list = new NameValuePair[1];
        meta_list[0] = new NameValuePair("author", file.getAuthor());

        //接收返回数据
        String[] uploadResults = null;
        StorageClient storageClient=null;
        try {
            //创建StorageClient客户端对象
            storageClient = getTrackerClient();

            /***
             * 文件上传
             * 1)文件字节数组
             * 2)文件扩展名
             * 3)文件作者(扩展信息)
             *
             *返回的uploadResults数组有两个值 :
             *uploadResults[0]: 文件所存储到的Storage组的名字 如:group1
             *uploadResults[1]: 文件所存储到的Storage上的文件名字 如:M00/02/44/aaa.jpg
             */
            uploadResults = storageClient.upload_file(file.getContent(), file.getExt(), meta_list);
        } catch (Exception e) {
            logger.error("Exception when uploadind the file:" + file.getName(), e);
        }

        if (uploadResults == null && storageClient!=null) {
            logger.error("upload file fail, error code:" + storageClient.getErrorCode());
        }
        //获取组名
        String groupName = uploadResults[0];
        //获取文件存储路径
        String remoteFileName = uploadResults[1];
        return uploadResults;
    }

    /***
     * 获取文件信息
     * @param groupName:组名
     * @param remoteFileName:文件存储完整名
     * @return
     */
    public static FileInfo getFile(String groupName, String remoteFileName) {
        try {
            StorageClient storageClient = getTrackerClient();
            return storageClient.get_file_info(groupName, remoteFileName);
        } catch (Exception e) {
            logger.error("Exception: Get File from Fast DFS failed", e);
        }
        return null;
    }

    /***
     * 文件下载
     * @param groupName
     * @param remoteFileName
     * @return
     */
    public static InputStream downFile(String groupName, String remoteFileName) {
        try {
            //创建StorageClient
            StorageClient storageClient = getTrackerClient();

            //下载文件
            //remoteFileName--文件路径 例如:M00/00/00/wKgRsVjtwpSAXGwkAAAweEAzRjw471.jpg
            //groupName --文件路径,例如:group1/M00/00/00/wKgRsVjtwpSAXGwkAAAweEAzRjw471.jpg中的group1
            byte[] fileByte = storageClient.download_file(groupName, remoteFileName);
            InputStream ins = new ByteArrayInputStream(fileByte);
            return ins;
        } catch (Exception e) {
            logger.error("Exception: Get File from Fast DFS failed", e);
        }
        return null;
    }
    //下载文件
    public static boolean downloadFile(String localFilename, String groupName, String remoteFilename) {
        //localFilename  本地文件名
        //groupName      文件在FastDFS中的组名
        //remoteFilename 文件在FastDFS中的名称
        File file = new File(localFilename);
        if(!file.exists()) {
            if(!file.getParentFile().exists()){
                file.getParentFile().mkdirs();
            }
            try {
                file.createNewFile();
            } catch (IOException e) {
                e.printStackTrace();
            }
        }else if(file.length()>0){
            logger.info("file.length()="+file.length());
            return true;
        }
        TrackerServer trackerServer;
        TrackerClient trackerClient=new TrackerClient();
        StorageServer storageServer=null;
        StorageClient storageClient=null;
        try (BufferedOutputStream bos = new BufferedOutputStream(new FileOutputStream(file))) {
            trackerServer = getTrackerServer();
            storageServer=trackerClient.getStoreStorage(trackerServer);
            storageClient= new StorageClient(trackerServer, storageServer);
            byte[] content = storageClient.download_file(groupName, remoteFilename);
            if (content == null || content.length == 0) {
                boolean flag = file.delete();
                return false;
            }
            bos.write(content);
            return true;
        } catch (IOException | MyException e) {
            e.printStackTrace();
            return false;
        }catch (Exception e){
            e.printStackTrace();
            return false;
        }
    }
    /***
     * 文件删除
     * @param groupName
     * @param remoteFileName
     * @throws Exception
     */
    public static int deleteFile(String groupName, String remoteFileName)
            throws Exception {
        //创建StorageClient
        StorageClient storageClient = getTrackerClient();

        //删除文件
        //remoteFileName--文件路径 例如:M00/00/00/wKgRsVjtwpSAXGwkAAAweEAzRjw471.jpg
        //groupName --文件路径,例如:group1/M00/00/00/wKgRsVjtwpSAXGwkAAAweEAzRjw471.jpg中的group1
        int i = storageClient.delete_file(groupName, remoteFileName);
        System.out.println("删除结果:"+i);
        return i;
    }

    /***
     * 获取Storage组
     * @param groupName
     * @return
     * @throws IOException
     */
    public static StorageServer[] getStoreStorages(String groupName)
            throws IOException {
        //创建TrackerClient
        TrackerClient trackerClient = new TrackerClient();
        //获取TrackerServer
        TrackerServer trackerServer = trackerClient.getConnection();
        //获取Storage组
        return trackerClient.getStoreStorages(trackerServer, groupName);
    }

    /***
     * 获取Storage信息,IP和端口
     * @param groupName
     * @param remoteFileName
     * @return
     * @throws IOException
     */
    public static ServerInfo[] getFetchStorages(String groupName,
                                                String remoteFileName) throws IOException {
        TrackerClient trackerClient = new TrackerClient();
        TrackerServer trackerServer = trackerClient.getConnection();
        return trackerClient.getFetchStorages(trackerServer, groupName, remoteFileName);
    }

    /***
     * 获取Tracker服务地址
     * @return
     * @throws IOException
     */
    public static String getTrackerUrl() throws IOException {
        return "http://"+getTrackerServer().getInetSocketAddress().getHostString()+":"+ClientGlobal.getG_tracker_http_port()+"/";
    }

    /***
     * 获取Storage客户端
     * @return
     * @throws IOException
     */
    private static StorageClient getTrackerClient() throws IOException {
        TrackerServer trackerServer = getTrackerServer();
        StorageClient storageClient = new StorageClient(trackerServer, null);
        return  storageClient;
    }

    /***
     * 获取Tracker
     * @return
     * @throws IOException
     */
    private static TrackerServer getTrackerServer() throws IOException {
        TrackerClient trackerClient = new TrackerClient();
        TrackerServer trackerServer = trackerClient.getConnection();
        return  trackerServer;
    }
}

2.4.3 文件上传、下载、删除

创建一个FileController,在该控制器中实现文件上传操作,代码如下:

package com.zkts.demo.controller;

import com.zkts.demo.pojo.FastDFSFile;
import com.zkts.demo.util.FastDFSClient;
import org.springframework.web.bind.annotation.*;
import org.springframework.web.multipart.MultipartFile;

import java.io.IOException;

/**
 * @Author:sgw
 * @Date:2023/8/10
 * @Description:
 */
@RestController
@CrossOrigin
public class FileController {
    @PostMapping("/upload")
    public String upload(@RequestParam("file") MultipartFile file) {
        String path = "";
        try {
            path = saveFile(file);
            System.out.println(path);
        } catch (Exception e) {
            e.printStackTrace();
        }
        return path;
    }

    /**
     * @param multipartFile
     * @return
     * @throws IOException
     */
    public String saveFile(MultipartFile multipartFile) throws IOException {
        //1. 获取文件名
        String fileName = multipartFile.getOriginalFilename();
        //2. 获取文件内容
        byte[] content = multipartFile.getBytes();
        //3. 获取文件扩展名
        String ext = "";
        if (fileName != null && !"".equals(fileName)) {
            ext = fileName.substring(fileName.lastIndexOf("."));
        }
        //4. 创建文件实体类对象
        FastDFSFile fastDFSFile = new FastDFSFile(fileName, content, ext);
        //5. 上传
        String[] uploadResults = FastDFSClient.upload(fastDFSFile);
        //6. 拼接上传后的文件的完整路径和名字, uploadResults[0]为组名, uploadResults[1]为文件名称和路径
        String path = FastDFSClient.getTrackerUrl() + uploadResults[0] + "/" + uploadResults[1];
        //7. 返回
        return path;
    }

    @PostMapping("/del")
    public int deleteFile(String groupName, String remoteFileName) throws Exception {
        int i = FastDFSClient.deleteFile(groupName, remoteFileName);
        return i;
    }

    //下载
    @PostMapping("/downloadFile")
    public static boolean downloadFile(String localFilename, String groupName, String remoteFilename) {
        //下载完成后到存储路径找下载的文件  localFilename
        return FastDFSClient.downloadFile(localFilename, groupName, remoteFilename);
    }
}

2.5 Postman测试文件上传

步骤:

1、选择post请求方式,输入请求地址 http://localhost:9007/upload

2、填写Headers

Key:Content-Type
Value:multipart/form-data

3、填写body

选择form-data 然后选择文件file 点击添加文件,最后发送即可。

在这里插入图片描述
发送请求获取结果:返回的是文件在fastdfs服务器里存储的全路径
在这里插入图片描述

2.6 测试文件删除

在这里插入图片描述

2.7 测试文件下载

在这里插入图片描述

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

麦芽糖0219

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值