分布式文件存储 - - - MinIO从入门到飞翔

最新推荐文章于 2025-04-06 10:00:00 发布

曼诺尔雷迪亚兹

最新推荐文章于 2025-04-06 10:00:00 发布

阅读量5.7k

点赞数 26

分类专栏：后端文章标签：分布式 minio

本文链接：https://blog.csdn.net/m0_63144319/article/details/139663355

版权

MinIO从入门到飞翔

文章目录

- MinIO从入门到飞翔

0、前言

对象存储是一种数据存储架构，设计用于管理和处理大量非结构化数据。与传统的文件存储和块存储不同，对象存储通过将数据分解为离散的、独立的单元或“对象”来存储每个对象包含数据本身、相关的元数据和一个唯一的标识符。

对象存储对比：

存储方式	优点	缺点
服务器磁盘	开发便捷，成本低	扩展困难
分布式文件系统	容易实现扩容	复杂度高
第三方存储	开发简单，功能强大，免维护	收费

1、分布式文件系统

分布式文件系统（Distributed File System, DFS）是一种文件系统，它使文件可以跨越多个服务器或存储设备存储和访问。DFS 通过网络将多个存储资源组合成一个统一的文件系统，使用户和应用程序可以像访问本地文件一样透明地访问远程文件。

分布式文件系统的关键特性：

透明性：用户和应用程序可以像访问本地文件一样访问远程文件，感受不到底层的复杂性。
高可用性：通过复制和冗余机制，确保即使某些节点或硬件发生故障，数据仍然可用。
可扩展性：能够处理随着数据量和用户数增加而增长的需求。
容错性：通过数据冗余和错误检测机制，保证系统能继续运行，即使发生部分硬件或网络故障。
性能：通过分布式架构，能够有效地处理大量并发访问请求。

2、MinIO 介绍

MinIO 是一个高性能的分布式对象存储系统，兼容 Amazon S3 云存储服务，Min10基于Apache License v2.0开源协议的对象存储服务，可以做为云存储的解决方案用来保存海量的图片，视频，文档。它专为大规模存储基础设施设计，能够高效地存储海量非结构化数据，如图片、视频、日志文件等。MinIO 提供了一组简单的 API，用户可以方便地进行数据存储和管理。

官方文档

MinIO 的关键特性

兼容性：
- 完全兼容 Amazon S3 API，使用户可以使用现有的 S3 客户端和工具。
高性能：
- 设计为高性能对象存储系统，能够支持每秒数十GB的数据吞吐量。
可扩展性：
- 支持横向扩展，允许用户通过添加更多的存储节点来扩展存储容量和性能。
简易部署：
- 提供简单的安装和配置过程，可以在几分钟内启动和运行。
数据保护：
- 通过纠删码（Erasure Coding）和位衰减（Bit Rot）保护机制确保数据完整性和持久性。
多租户支持：
- 支持多用户和多租户环境，提供隔离和权限管理。
Kubernetes 集成：
- 提供原生的 Kubernetes Operator，方便在 Kubernetes 集群中部署和管理 MinIO。

3、 MinIO安装（docker）

如果你有 Docker 环境，可以通过以下命令快速拉取并运行 MinIO 容器：

拉取镜像
```
docker pull minio/minio
```

创建容器

docker run -p 9000:9000 --name minio -d --restart=always -e "MINIO_ACCESS_KEY=minio" -e "MINIO_SECRET_KEY=minio123" -v /home/data:/data -v /home/config:/root/.minio minio/minio server /data

访问minio系统:

http://<your_server_ip>:9000

如：http://192.168.200.130:9000

4、基本概念

bucket – 类比于文件系统的目录
Object – 类比文件系统的文件
Keys – 类比文件名

5、通过代码上传文件到MinIO

新建项目，导入pom文件

    <dependencies>

        <dependency>
            <groupId>io.minio</groupId>
            <artifactId>minio</artifactId>
            <version>7.1.0</version>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
        </dependency>

        <dependency>
            <groupId>com.heima</groupId>
            <artifactId>heima-file-starter</artifactId>
            <version>1.0-SNAPSHOT</version>
        </dependency>
    </dependencies>

创建test测试文件

package com.heima.minio.test;

import com.heima.file.service.FileStorageService;
import io.minio.MinioClient;
import io.minio.PutObjectArgs;
import org.junit.Test;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;

import java.io.FileInputStream;
import java.io.FileNotFoundException;

public class MinIOTest {
     


    public static void main(String[] args) {
     

        FileInputStream fileInputStream = null;
        try {
     

            fileInputStream =  new FileInputStream("E:\\list.html");;

            //1.创建minio链接客户端
            MinioClient minioClient = MinioClient.builder().credentials("minio", "minio123").endpoint("http://192.168.200.130:9000").build();
            //2.上传
            PutObjectArgs putObjectArgs = PutObjectArgs.builder()
                    .object("list.html")//文件名
                    .contentType("text/