Minio分布式集群搭建

最新推荐文章于 2024-06-03 11:20:34 发布
最新推荐文章于 2024-06-03 11:20:34 发布
阅读量2.2k 收藏 3
点赞数
分类专栏： linux 文章标签： 分布式存储
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/tianshi_rain/article/details/114640287
版权

引用内容

介绍内容来自官方 https://docs.min.io/cn/distributed-minio-quickstart-guide.html
部署内容参考 https://blog.csdn.net/ywd1992/article/details/82385101

一、分布式Minio快速入门

分布式Minio可以让你将多块硬盘（甚至在不同的机器上）组成一个对象存储服务。由于硬盘分布在不同的节点上，分布式Minio避免了单点故障。

分布式Minio有什么好处?

在大数据领域，通常的设计理念都是无中心和分布式。Minio分布式模式可以帮助你搭建一个高可用的对象存储服务，你可以使用这些存储设备，而不用考虑其真实物理位置。
数据保护
分布式Minio采用 纠删码来防范多个节点宕机和位衰减bit rot。
分布式Minio至少需要4个硬盘，使用分布式Minio自动引入了纠删码功能。

高可用
单机Minio服务存在单点故障，相反，如果是一个有N块硬盘的分布式Minio,只要有N/2硬盘在线，你的数据就是安全的。不过你需要至少有N/2+1个硬盘来创建新的对象。
例如，一个16节点的Minio集群，每个节点16块硬盘，就算8台服務器宕机，这个集群仍然是可读的，不过你需要9台服務器才能写数据。
注意，只要遵守分布式Minio的限制，你可以组合不同的节点和每个节点几块硬盘。比如，你可以使用2个节点，每个节点4块硬盘，也可以使用4个节点，每个节点两块硬盘，诸如此类。

一致性
Minio在分布式和单机模式下，所有读写操作都严格遵守read-after-write一致性模型。

二、Minio分布式集群搭建

生产环境建议最少4节点

节点IPdata
minio1172.16.71.172/apps/minio/data/export{1,2,3,4}
minio2172.16.71.173/apps/minio/data/export{1,2,3,4}
minio3172.16.71.174/apps/minio/data/export{1,2,3,4}
minio4172.16.71.182/apps/minio/data/export{1,2,3,4}

1、获取Minio

https://dl.min.io/server/minio/release/linux-amd64/minio

2、修改主机名及hosts(可忽略)

hostnamectl set-hostname minio1
hostnamectl set-hostname minio2
hostnamectl set-hostname minio3
hostnamectl set-hostname minio4
...

cat >> /etc/hosts <<EOF
10.10.0.1 minio1
10.10.0.2 minio2
10.10.0.3 minio3
10.10.0.4 minio4
EOF

3、系统最大文件数修改(可忽略)

echo "*   soft    nofile  65535" >> /etc/security/limits.conf
echo "*   hard    nofile  65535" >> /etc/security/limits.conf

4、目录创建

  • 启动脚本及二进制文件目录 run
  • 数据存储目录 data
  • 日志存储目录 logs
  • 配置文件目录/etc/minio
mkdir -p /apps/minio/{run,data,logs} && mkdir -p /etc/minio
mkdir /apps/minio/data/export{1,2,3,4}

5、集群启动文件

vim /data/minio/run/run.sh
  • MINIO_ACCESS_KEY：用户名，长度最小是5个字符
  • MINIO_SECRET_KEY：密码，密码不能设置过于简单，不然-minio会启动失败，长度最小是8个字符
  • –config-dir：指定集群配置文件目录
  • –address： 指定端口号 默认是9000
    注意：下面脚本复制时 \ 后不要有空格
#!/bin/bash
export MINIO_ACCESS_KEY=minioadmin
export MINIO_SECRET_KEY=minioadmin

/apps/minio/run/minio server --address 0.0.0.0:8000 --config-dir /etc/minio \
http://172.16.71.172/apps/minio/data/export1 \
http://172.16.71.172/apps/minio/data/export2 \
http://172.16.71.172/apps/minio/data/export3 \
http://172.16.71.172/apps/minio/data/export4 \
http://172.16.71.173/apps/minio/data/export1 \
http://172.16.71.173/apps/minio/data/export2 \
http://172.16.71.173/apps/minio/data/export3 \
http://172.16.71.173/apps/minio/data/export4 \
http://172.16.71.174/apps/minio/data/export1 \
http://172.16.71.174/apps/minio/data/export2 \
http://172.16.71.174/apps/minio/data/export3 \
http://172.16.71.174/apps/minio/data/export4 \
http://172.16.71.182/apps/minio/data/export1 \
http://172.16.71.182/apps/minio/data/export2 \
http://172.16.71.182/apps/minio/data/export3 \
http://172.16.71.182/apps/minio/data/export4 > /apps/minio/logs/minio_server.log

6、minio.service

  • WorkingDirectory：二进制文件目录
  • ExecStart：指定集群启动脚本
cat > /usr/lib/systemd/system/minio.service <<EOF
[Unit]
Description=Minio service
Documentation=https://docs.minio.io/

[Service]
WorkingDirectory=/apps/minio/run/
ExecStart=/apps/minio/run/run.sh

Restart=on-failure
RestartSec=5

[Install]
WantedBy=multi-user.target
EOF

7、二进制文件

将minio二进制文件上传到/apps/minio/run目录

8、权限修改

给所有涉及到的文件或目录添加权限

  • service文件
  • 二进制文件
  • 集群启动脚本
chmod +x /usr/lib/systemd/system/minio.service && chmod +x /apps/minio/run/minio && chmod +x /apps/minio/run/run.sh

9、启动集群

systemctl daemon-reload
systemctl enable minio && systemctl start minio

注意：不要同时启动所有服务。 重启时也不要同时启动。否则容易引起系统一直等待。
遇到的一些问题。启动的时候遭遇了重复启动使得一直提示Waiting for the first server to format the disks. 这时候检查一下是否同时有两个实例在运行

10、代理集群

生产环境需要使用Nginx将集群地址进行代理，对外统一入口

upstream minio{
        server 172.16.71.172:8000;
        server 172.16.71.173:8000;
        server 172.16.71.174:8000;
        server 172.16.71.182:8000;
}
server {
        listen 8000;
        server_name minio;
        location / {
                proxy_pass http://minio;
                proxy_set_header Host $http_host;
                client_max_body_size 1000m;
        }
}

11、测试

浏览器访问minio集群代理地址+8000端口，用户名密码为上文中启动文件run.sh中我们设置的

三、bucket配置

1、新增bucket

需要先创建bucket才能上传图片

2、配置bucket可免密访问

在这里插入图片描述

在这里插入图片描述
访问路径为 http://172.16.71.173:8000/default/1.jpg 域名+bucket+文件名/路径

四、java 上传文件 （基于 minio 8.1.0）

参考资料

https://docs.min.io/docs/java-client-api-reference
https://github.com/minio/minio-java/tree/release/examples

1.通过流上传文件

package com.dhc.cloud;

import io.minio.BucketExistsArgs;
import io.minio.MakeBucketArgs;
import io.minio.MinioClient;
import io.minio.PutObjectArgs;
import io.minio.UploadObjectArgs;
import lombok.SneakyThrows;
import org.junit.jupiter.api.BeforeEach;
import org.junit.jupiter.api.Test;

import java.io.File;
import java.io.FileInputStream;

class MinioStorageServiceTest {

    MinioClient minioClient;

    @BeforeEach
    public void init() {
        minioClient =
            MinioClient.builder()
                .endpoint("http://172.16.71.172:8000")
                .credentials("minioadmin", "minioadmin")
                .build();
    }


    @Test
    @SneakyThrows
    public void updateStream() {
        // 检查bucket是否存在
        boolean found =
            minioClient.bucketExists(BucketExistsArgs.builder().bucket("default").build());
        if (!found) {
            // 创建bucket
            minioClient.makeBucket(MakeBucketArgs.builder().bucket("default").build());
        }
        // 打开本地文件创建流
        File file = new File("C:\\Users\\A11181121050449\\Pictures\\1.jpg");
        FileInputStream fis = new FileInputStream(file);
        minioClient.putObject(
            PutObjectArgs.builder()
                .bucket("default").object(file.getName()).stream(fis, -1, 10_485_760).build());
    }
}

2.本地文件上传

package com.dhc.cloud;

import io.minio.BucketExistsArgs;
import io.minio.MakeBucketArgs;
import io.minio.MinioClient;
import io.minio.PutObjectArgs;
import io.minio.UploadObjectArgs;
import lombok.SneakyThrows;
import org.junit.jupiter.api.BeforeEach;
import org.junit.jupiter.api.Test;

import java.io.File;
import java.io.FileInputStream;

class MinioStorageServiceTest {

    MinioClient minioClient;

    @BeforeEach
    public void init() {
        minioClient =
            MinioClient.builder()
                .endpoint("http://172.16.71.172:8000")
                .credentials("minioadmin", "minioadmin")
                .build();
    }

    @Test
    @SneakyThrows
    public void updateImg() {
        // 检查bucket是否存在
        boolean found =
            minioClient.bucketExists(BucketExistsArgs.builder().bucket("default").build());
        if (!found) {
            // 创建bucket
            minioClient.makeBucket(MakeBucketArgs.builder().bucket("default").build());
        }
        minioClient.uploadObject(
            UploadObjectArgs.builder()
                .bucket("default")
                .object("1.jpg")
                .filename("C:\\Users\\A11181121050449\\Pictures\\1.jpg")
                .build());
    }
}
tianshi_rain
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
minio集群部署
派大星的不眠博客
12-08 1万+
分布式Minio可以在多个服务器节点上，多块硬盘上共享存储空间，提供对象存储服务。分布式Minio由于多节点，避免了单点故障，保证文件存储的高可用。
Minio 集群生产环境部署示例
最新发布
将臣三代的博客
07-04 1028
上述步骤详细描述了如何在生产环境中部署和配置 MinIO 集群，包括安装、配置、启动、验证和安全配置等方面。通过这些步骤，你可以搭建一个高性能、高可用的分布式对象存储系统。通过这些步骤，您应该能够解决 MinIO 集群启动时节点无法连接的问题。确保每个节点的服务运行、网络连接正常、防火墙设置正确，并确认配置文件中的路径和权限设置正确，是保证 MinIO 集群正常运行的关键。如果问题仍然存在，请检查最新的错误日志，并提供更多详细信息以便进一步诊断。
minio文件服务器-docker docker-compose 搭建部署以及使用大全
mingqing的博客
08-09 9912
minio文件服务器-docker docker-compose 搭建部署以及使用大全
Minio分布式存储集群搭建(多节点多硬盘模式)
2301_76445126的博客
01-23 4916
说明，我这次的实验环境是三台服务器，每台额外分配五个数据盘，共计提供给minio集群使用为15个数据盘，因为是测试环境所以磁盘大小只给了50G，生产请自行评估，本次是将所有磁盘都格式化为xfs文件系统，格式化文件系统后我在根目录下分别创建了data1，data2，data3，data4，data5五个目录给这五个数据盘挂载，详细磁盘格式化以及挂载方法自行百度，这里不详细赘述，实在不懂就评论区问吧。vim /etc/default/minio #minio服务的环境变量文件。1.minio集群搭建。
minio 集群部署
weixin_42044020的博客
06-03 198
介绍：通过单个服务器部署的伪集群，采用不同的端口号模拟正式环境的多个节点，借助docker-compose快速搭建环境。节点1：172.16.7.108:9001 server:9000。节点2：172.16.7.108:9002 server:9000。节点3：172.16.7.108:9003 server:9000。节点4：172.16.7.108:9004 server:9000。
Centos7搭建minio分布式集群
10-27
在CentOS 7上搭建MinIO分布式集群是一项重要的IT任务，这将帮助我们构建一个可扩展、高可用的云存储解决方案。下面将详细阐述如何在CentOS 7系统上实现这个过程。 首先，我们需要了解MinIO的基本概念。MinIO由多个...
minio分布式部署搭建文档及安装程序
02-16
提供的`minio分布式部署搭建文档.docx`应该详细介绍了每个步骤，包括服务器配置、集群设置、安全策略等。务必仔细阅读并按照文档操作。同时，官方文档也是重要的参考资料，包含了丰富的教程和API参考。 总结来说，...
minio分布式存储
12-18
通过使用`bin`目录下的文件，用户可以下载MinIO的二进制包，按照官方文档的指导进行安装和配置，从而搭建自己的分布式存储系统。 总的来说，MinIO作为一款优秀的分布式存储解决方案，它在性能、扩展性、安全性和...
Linux环境MinIO单机安装、集群搭建，数据同步，策略示例。
09-19
本文将详细介绍如何在Ubuntu 20.04上进行MinIO的单机安装、集群搭建、数据同步以及设置策略。 首先，让我们看看单机安装的步骤： 1. **下载MinIO Server**：使用`wget`命令从官方站点下载最新版的Linux-amd64架构...
minio集群部署.docx
12-24
基于linux的minio集群部署文档，腾讯云租用2个云服务器，每个服务器两个节点，共4个节点
CentOS Minio集群安装
01-24
Minio 分布式集群搭建可以参考以下地址： 知识点7：集群配置 集群配置包括配置虚拟机、安装 CentOS、配置 ifconfig 命令和配置 XShell 工具等。 知识点8：高可用性和高性能 Minio 分布式集群可以实现高可用性和...
Minio集群部署
热门推荐
Moolight_shadow的专栏
03-01 1万+
1. 准备部署 1.1. 版本说明 1.2. 分区配置 2. 部署minio 2.1. 二进制包 2.2. 启动minio 3. prometheus监控 3.1. 安装mc 3.2. 配置mc 4. 附录 4.1. 数据在磁盘的组织形式 4.1.1. 小文件 4.1.1.1. 探索 4.1.1.2. 结论 4.1.2. 大文件 4.1.2.1. 结论 4.2. 扩容 4.3. 更换硬盘/更换主机 4.4. 推荐配置 [4.5. server pool1](#45-..
MinIo集群部署
baidu_32658575的博客
10-20 326
docker安装 yum install -y yum-utils device-mapper-persistent-data lvm2 yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo yum -y install docker-ce systemctl enable --now docker 所有节点配置主机名解析 部署minio集群 docker ru
MinIO分布式集群部署
三年喂的博客
05-17 5240
注意：启动之前要确保数据目录是独立挂载硬盘，并且目录为空，不然启动不成功！是因为nginx配置没有支持webscoket，需要添加以下配置。这里使用两台服务器演示案例，以下内容两台服务器执行相同动作。使用API上传文件时，response响应nginx403。配置代理时有一些坑，需要注意。使用控制台时无法访问。
minio集群部署（k8s内）
ApexPredator的博客
11-22 3739
minio集群部署（k8s内）
minio分布式搭建_分布式存储Minio集群环境搭建
05-30
好的，我可以回答你关于minio分布式搭建的问题。 Minio是一个开源的分布式对象存储服务器，它可以在多个服务器上构建一个高可用的存储集群。以下是搭建Minio分布式存储集群的步骤： 1. 下载Minio二进制文件 首先，你需要下载Minio二进制文件。你可以从Minio官方网站下载适用于你的操作系统的最新版本。 2. 创建配置文件 在每个Minio服务器上，你需要创建一个配置文件。这个配置文件包含了Minio的access key和secret key，以及其他一些配置参数，例如监听地址和存储路径。 3. 启动Minio服务器 在每个Minio服务器上，使用以下命令启动Minio服务器： ``` ./minio server <path-to-data-directory> --config-dir <path-to-config-directory> ``` 其中，`<path-to-data-directory>` 是Minio用于存储数据的目录，`<path-to-config-directory>` 是配置文件所在的目录。 4. 配置分布式模式 在一个Minio服务器上，使用以下命令将其配置为分布式模式： ``` ./minio server http://<server1>:9000 http://<server2>:9000 http://<server3>:9000 ``` 其中，`<server1>`、`<server2>` 和 `<server3>` 是其他Minio服务器的地址。 5. 启动分布式集群 在每个Minio服务器上，使用第3步中的命令启动Minio服务器。在第一个Minio服务器上，使用第4步中的命令将其配置为分布式模式。在其他Minio服务器上，只需要使用第3步中的命令即可。 6. 测试分布式集群 现在，你可以使用Minio客户端或S3工具来测试分布式集群了。你可以上传文件到一个Minio服务器上，然后从另一个Minio服务器上下载它。 以上就是关于minio分布式搭建的步骤。希望对你有所帮助。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值