基于MinIO搭建高性能文件服务器

文艺倾年

已于 2023-02-14 17:20:13 修改

阅读量3.5k

点赞数 9

分类专栏： # SpringBoot 文章标签： java

于 2022-04-27 22:51:12 首次发布

本文链接：https://blog.csdn.net/m0_51517236/article/details/124462300

版权

SpringBoot 专栏收录该内容

14 篇文章 2 订阅

订阅专栏

1. MinIO 简介

在这里插入图片描述
MinIO 是一个基于 Go 实现的高性能、兼容 S3 协议的对象存储。它采用 GNU AGPL v3 开源协议，项目地址是 https://github.com/minio/minio，官网是 https://min.io。

它适合存储海量的非结构化的数据，例如说图片、音频、视频等常见文件，备份数据、容器、虚拟机镜像等等，小到 1 KB，大到 5 TB 都可以支持。

国内阿里巴巴、腾讯、百度、华为、中国移动、中国联通等企业在使用 MinIO，甚至不少商业公司二次开发 MinIO 来提供商业化的云存储产品。

疑问：为什么越来越少使用 FastDFS 实现文件存储服务呢？

部署运维复杂、无官方文档、缺乏长期维护的团队、性能较差、未提供 Docker & Kubernetes 集成方案等等原因。

2. MinIO Server 安装

由于 MinIO 是 Go 写的，所以就一个运行程序，因此安装部署 MinIO 就非常简单。

2.1 快速安装

2.1.1 Windows

需要在 Windows PowerShell 中执行。

Invoke-WebRequest -Uri "https://dl.min.io/server/minio/release/windows-amd64/minio.exe" -OutFile "C:\minio.exe" ## 国外资源，龟速下载
setx MINIO_ROOT_USER admin
setx MINIO_ROOT_PASSWORD password
C:\minio.exe server F:\Data --console-address ":9001" ## F:\Data 存储目录；--console-address 是 UI 界面的端口

2.1.2 Linux

wget https://dl.min.io/server/minio/release/linux-amd64/minio ## 国外资源，龟速下载
chmod +x minio
## /home/file_oss/ 存储目录；--console-address 是 UI 界面的端口
MINIO_ROOT_USER=admin MINIO_ROOT_PASSWORD=password ./minio server /Users/yunai/minio --console-address ":9001"

2.1.3 MacOS

wget https://dl.min.io/server/minio/release/darwin-amd64/minio ## 国外资源，龟速下载
chmod +x minio
MINIO_ROOT_USER=admin MINIO_ROOT_PASSWORD=password ./minio server F:\Data --console-address ":9001" ## F:\Data 存储目录；--console-address 是 UI 界面的端口

2.1.4 Docker

① Windows：

# /home/file_oss 存储目录；--console-address 是 UI 界面的端口
docker run -p 9000:9000 -p 9001:9001 -e "MINIO_ACCESS_KEY=admin" -e "MINIO_SECRET_KEY=password" minio/minio server /data --console-address ":9001"

② Linux 或 MacOS：

## /home/file_oss 存储目录；--console-address 是 UI 界面的端口
docker run -p 9000:9000 -p 9001:9001 -e "MINIO_ACCESS_KEY=admin" -e "MINIO_SECRET_KEY=password" minio/minio server /home/file_oss/ --console-address ":9001" 


## 启动后：

API: http://172.17.0.2:9000  http://127.0.0.1:9000 

Console: http://172.17.0.2:9001 http://127.0.0.1:9001 

Documentation: https://docs.min.io

 You are running an older version of MinIO released 3 months ago 
 Update: 
Run `mc admin update`

2.2 访问UI界面

访问网址：xxxx:9001
在这里插入图片描述

2.3 新建存储桶

点击 [Create Bucket] 按钮，新建一个 Bucket 存储桶，用于稍后文件的上传。

在这里插入图片描述

2.4 添加 readonly 访问规则

默认配置下，访问存储桶是需要请求授权的。但是在实际场景下，我们往往希望允许直接访问，此时就需要添加一条 readonly 访问规则。

① 点击右上角的 [Configure Bucket] 设置图标，然后选择 [Access Rules] 菜单。
在这里插入图片描述

② 点击 [Add Access Rule] 按钮，添加一条 Prefix 为 / Access 为 readonly 的规则。

2.5 上传文件

点击 [Upload] 按钮，点击 [Upload File] 选项，选择一个图片上传。
在这里插入图片描述

2.6 访问文件

文件的访问地址的格式为 <http://ip地址:9000/{bucket}/{name}>，注意是 9000 端口。

我们刚上传的文件 {bucket} 是 artboy，{name} 是图片1.png，所以最终的访问路径是 http://ip地址:9000/artboy/图片1.png。

在这里插入图片描述

3. MinIO Client 命令行工具

MinIO Client (mc) 是 MinIO 提供的命令行工具，用于访问 MinIO Server。它的命令设计的非常棒，和我们在使用 ls、cat、cp、mirror、diff、find 等 Unix 命令基本接近，主要如下：

ls       列出文件和文件夹
mb       创建一个存储桶或一个文件夹
cat      显示文件和对象内容
pipe     将一个 STDIN 重定向到一个对象或者文件或者 STDOUT
share    生成用于共享的 URL
cp       拷贝文件和对象
mirror   给存储桶和文件夹做镜像
find     基于参数查找文件
diff     对两个文件夹或者存储桶比较差异
rm       删除文件和对象
events   管理对象通知
watch    监听文件和对象的事件
policy   管理访问策略
session  为 cp 命令管理保存的会话
config   管理 mc 配置文件
update   检查软件更新
version  输出版本信息

MinIO Client 安装：https://min.io/download
MinIO Client 命令：https://docs.min.io/minio/baremetal/reference/minio-mc.html

4. Spring Boot 实战

4.1 引入依赖

<!-- MinIO 客户端 -->
<dependency>
    <groupId>io.minio</groupId>
    <artifactId>minio</artifactId>
    <version>8.2.2</version>
</dependency>

注意，如果引入的 Minio 的版本过高，例如说 8.3.7，会报依赖的冲突：

2022-03-19 11:29:59.954 ERROR 77692 --- [           main] o.s.b.d.LoggingFailureAnalysisReporter   : 

***************************
APPLICATION FAILED TO START
***************************

Description:

An attempt was made to call a method that does not exist. The attempt was made from the following location:

    io.minio.S3Base.<clinit>(S3Base.java:98)

The following method did not exist:

    okhttp3.RequestBody.create([BLokhttp3/MediaType;)Lokhttp3/RequestBody;

The calling method's class, io.minio.S3Base, was loaded from the following location:

    jar:file:/Users/yunai/.m2/repository/io/minio/minio/8.3.7/minio-8.3.7.jar!/io/minio/S3Base.class

The called method's class, okhttp3.RequestBody, is available from the following locations:

    jar:file:/Users/yunai/.m2/repository/com/squareup/okhttp3/okhttp/3.14.9/okhttp-3.14.9.jar!/okhttp3/RequestBody.class

The called method's class hierarchy was loaded from the following locations:

    okhttp3.RequestBody: file:/Users/yunai/.m2/repository/com/squareup/okhttp3/okhttp/3.14.9/okhttp-3.14.9.jar


Action:

Correct the classpath of your application so that it contains compatible versions of the classes io.minio.S3Base and okhttp3.RequestBody

4.2 MinIOConfiguration

import io.minio.MinioClient;
import org.springframework.context.annotation.*;

@Configuration
public class MinIOConfiguration {

    @Bean
    public MinioClient minioClient() {
        // Minio 配置。实际项目中，定义到 application.yml 配置文件中
        String endpoint = "http://127.0.0.1:9000";
        String accessKey = "admin";
        String secretKey = "password";

        // 创建 MinioClient 客户端
        return MinioClient.builder()
                .endpoint(endpoint)
                .credentials(accessKey, secretKey)
                .build();
    }

}

4.3 FileController

新建 FileController 类，实现文件上传与删除的 RESTful API 接口。代码如下：

import io.minio.*;
import org.springframework.web.bind.annotation.*;
import org.springframework.web.multipart.MultipartFile;

import javax.annotation.Resource;
import java.util.UUID;

@RestController
@RequestMapping("/file")
public class FileController {

    @Resource
    private MinioClient minioClient;

    // Minio 配置。实际项目中，定义到 application.yml 配置文件中
    private String endpoint = "http://127.0.0.1:9000";
    private String bucket = "artboy";

    /**
     * 上传文件
     */
    @PostMapping("/upload")
    public String upload(@RequestParam("file") MultipartFile file) throws Exception {
        // 上传
        String path = UUID.randomUUID().toString(); // 文件名，使用 UUID 随机
        minioClient.putObject(PutObjectArgs.builder()
                .bucket(bucket) // 存储桶
                .object(path) // 文件名
                .stream(file.getInputStream(), file.getSize(), -1) // 文件内容
                .contentType(file.getContentType()) // 文件类型
                .build());
        // 拼接路径
        return String.format("%s/%s/%s", endpoint, bucket, path);
    }

    /**
     * 删除文件
     */
    @DeleteMapping("/delete")
    public void delete(@RequestParam("path") String path) throws Exception {
        minioClient.removeObject(RemoveObjectArgs.builder()
                .bucket(bucket) // 存储桶
                .object(path) // 文件名
                .build());
    }

}

5. Minio数据迁移

5.1 Minio数据迁移方案

1、使用Rclone实现minio数据的迁移

使用场景：网络通畅，不同服务器间迁移、云存储系统迁移、支持分布式存储
特性：使用需要安装rclone程序；安全，便捷；可维护性高

2、使用scp命令实现minio数据的迁移

使用场景：网络通畅，不同服务器间迁移、支持分布式存储（但需要考虑分布式存储节点的配置，存在局限性）
特性：基于Linux本身Secure Copy实现；安全，便捷，简单易用

3、使用硬件媒介实现minio数据的迁移

使用场景：网络通畅或者不同网络，不同服务器间迁移
特性：安全，简单易用；但是耗时较多，操作繁琐

5.2 实战

这里我们以使用Rclone实现minio数据的迁移为例：

官方：https://rclone.org/install/

5.2.1 安装rclone

rclone是一个开源的命令行程序，用来同步文件和目录进或者出云存储系统。它旨在成为"云存储的rsync"

cd /data/ && mkdir minio && cd minio/
wget https://downloads.rclone.org/rclone-current-linux-amd64.zip

# ls
# rclone-current-linux-amd64.zip
# 安装解压缩的依赖
# yum -y install unzip

# 解压
unzip rclone-current-linux-amd64.zip

# [root@VM-24-12-centos minio]# ls
# rclone-current-linux-amd64.zip  rclone-v1.61.1-linux-amd64

# 赋权
chmod 0755 ./rclone-v1.61.1-linux-amd64/rclone
# 拷贝到 /usr/bin/ 可以直接使用 rclone命令
cp ./rclone-v1.61.1-linux-amd64/rclone /usr/bin/

root@VM-24-12-centos minio]# rclone --help

Rclone syncs files to and from cloud storage providers as well as
mounting them, listing them in lots of different ways.
....

# 删除源文件
rm -rf ./rclone-current-linux-amd64.zip

5.2.2 生成配置文件

配置参数：

# ./rclone config
rclone config

2023/02/14 11:42:07 NOTICE: Config file "/root/.config/rclone/rclone.conf" not found - using defaults
No remotes found, make a new one?
n) New remote
s) Set configuration password
q) Quit config
# 新建一个配置文件
n/s/q> n

name> minio
Storage> s3
provider> Minio
env_auth> false
access_key_id> admin
secret_access_key> password
region> 
endpoint> http://172.23.27.112:9000
location_constraint>
acl> 3
server_side_encryption> 
sse_kms_key_id> 

# 高级配置（结束）
Edit advanced config?
y) Yes
n) No (default)
This value must be a single character, one of the following: y, n.
y/n> n


Configuration complete.
Options:
- type: s3
- provider: Minio
- access_key_id: admin
- secret_access_key: password
- endpoint: http://172.23.27.112:9000
- acl: public-read-write


Keep this "minio" remote?
y) Yes this is OK (default)
e) Edit this remote
d) Delete this remote
y/e/d> y

Current remotes:
Name                 Type
====                 ====
minio                s3


e) Edit existing remote
n) New remote
d) Delete remote
r) Rename remote
c) Copy remote
s) Set configuration password
q) Quit config
e/n/d/r/c/s/q> q

检查一下是否连接成功：

[root@VM-24-12-centos rclone]# rclone ls minio:artboy

   699050 00c4864e-accd-482a-b6a1-1f25ffabca5e
   699050 02a47619-ea67-490f-92b0-f72be76d3207
   699050 04199f03-2ba8-4a73-8269-fd5132d5a569
  1337856 04e1e0be-8f25-4776-89d1-58fd5fccccba
   452724 0603319c-d255-4406-a69b-4ac134968e01

配置文件：

路径：/root/.config/rclone/rclone.conf

## 重新修改配置
[oldminio]
type = s3
provider = Minio
env_auth = false
access_key_id = minio
secret_access_key = 123
region = cn-east-1
endpoint = http://IP:PORT
location_constraint =
server_side_encryption =

[newminio]
type = s3
provider = Minio
env_auth = false
access_key_id = minio
secret_access_key = 123
region = cn-east-1
endpoint = http://IP:PORT
location_constraint =
server_side_encryption =

5.2.3 迁移

常用命令：

rclone config - 以控制会话的形式添加rclone的配置，配置保存在.rclone.conf文件中。
rclone copy - 将文件从源复制到目的地址，跳过已复制完成的。
rclone sync - 将源数据同步到目的地址，只更新目的地址的数据。
rclone move - 将源数据移动到目的地址。
rclone delete - 删除指定路径下的文件内容。
rclone purge - 清空指定路径下所有文件数据。
rclone mkdir - 创建一个新目录。
rclone rmdir - 删除空目录。
rclone check - 检查源和目的地址数据是否匹配。
rclone ls - 列出指定路径下所有的文件以及文件大小和路径。
rclone lsd - 列出指定路径下所有的目录/容器/桶。
rclone lsl - 列出指定路径下所有文件以及修改时间、文件大小和路径。
rclone md5sum - 为指定路径下的所有文件产生一个md5sum文件。
rclone sha1sum - 为指定路径下的所有文件产生一个sha1sum文件。
rclone size - 获取指定路径下，文件内容的总大小。.
rclone version - 查看当前版本。
rclone cleanup - 清空remote。
rclone dedupe - 交互式查找重复文件，进行删除/重命名操作。

这里我们是从Minio迁移到Minio，使用rclone copy命令

# 检查两台服务器是否可以正常连接


# `rclone copy` 复制指定路径下文件
# rclone copy source:sourcepath dest:destpath
rclone copy oldminio:tmxk newminio:tmxk

文艺倾年

关注

9
点赞
踩
15

收藏

觉得还不错? 一键收藏
1
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

专栏目录