MongoDB 3.4 副本集分片集群搭建

最新推荐文章于 2020-12-13 18:58:42 发布
最新推荐文章于 2020-12-13 18:58:42 发布
阅读量126 收藏
点赞数
文章标签： 数据库 运维
原文链接：https://yq.aliyun.com/articles/224703
版权

MongoDB 3.4 副本集分片集群搭建

Author：Jeffrey Jhon

Timed：2017-10-16 16:56:24

Company：hangzhoutianque

案例主要参考，然后细化了下安装部署过程，并且贴出详细的配置信息，以便后续翻阅查询。

官方文档：Sharding - MongoDB Manual 3.4

一、测试环境

  1. 操作体统：VMware + CentOS7 + 静态IP
  2. mongodb版本：mongodb-3.4.4

二、布局预览

app1app2app3app4app5
mongosmongosconfigconfigconfig
shard1主节点shard1备份节点shard1仲裁节点shard2仲裁节点shard3仲裁节点
shard4仲裁节点shard2主节点shard2备份节点shard3备份节点shard4备份节点
shard5备份节点shard5仲裁节点shard3主节点shard4主节点shard5主节点

三、资源分配

  1. 机器分配

原则上将相同分片（sharding）的不同副本（replica set）部署在不同的机器上。

​ 如：分片shard1分别在app1、app2、app3上部署了主节点、副本节点、仲裁节点。

ipaddresshostnamemongosconfigshard1shard2shard3shard4shard5
172.10.20.10app1P-P--AR
172.10.20.11app2P-RP--A
172.10.20.12app3-PARP--
172.10.20.14app4-R-ARP-
172.10.20.15app5-R--ARP

​ P：primary，主节点

​ R：replication，副本节点

​ A：arbitration，仲裁节点

  1. 端口分配

尽可能的为相同的分片分配相同的端口。

## port        usefor
   27017    mongosRoute(mongos)
   27001    configServer(config)
   27101    shard1
   27102    shard2
   27103    shard3
   27104    shard4
   27105    shard5

四、应用部署

1）分发MongoDB包

[admin@app1 ~]$ scp -r cli-mongodb admin@app2:~/
admin@app2's password: 
[admin@app1 ~]$ scp -r cli-mongodb admin@app3:~/
admin@app3's password: 
[admin@app1 ~]$ scp -r cli-mongodb admin@app4:~/
admin@app4's password: 
[admin@app1 ~]$ scp -r cli-mongodb admin@app5:~/
admin@app5's password:

2）创建相关目录

​ 创建各个节点的根目录。

# app1
[admin@app1 ~]$ mkdir -p /home/admin/mongodbints/mongos
[admin@app1 ~]$ mkdir -p /home/admin/mongodbints/shard1
[admin@app1 ~]$ mkdir -p /home/admin/mongodbints/shard4
[admin@app1 ~]$ mkdir -p /home/admin/mongodbints/shard5
# app2
[admin@app2 ~]$ mkdir -p /home/admin/mongodbints/mongos
[admin@app2 ~]$ mkdir -p /home/admin/mongodbints/shard1
[admin@app2 ~]$ mkdir -p /home/admin/mongodbints/shard2
[admin@app2 ~]$ mkdir -p /home/admin/mongodbints/shard5
# app3
[admin@app3 ~]$ mkdir -p /home/admin/mongodbints/mongo-config
[admin@app3 ~]$ mkdir -p /home/admin/mongodbints/shard1
[admin@app3 ~]$ mkdir -p /home/admin/mongodbints/shard2
[admin@app3 ~]$ mkdir -p /home/admin/mongodbints/shard3
# app4
[admin@app4 ~]$ mkdir -p /home/admin/mongodbints/mongo-config
[admin@app4 ~]$ mkdir -p /home/admin/mongodbints/shard2
[admin@app4 ~]$ mkdir -p /home/admin/mongodbints/shard3
[admin@app4 ~]$ mkdir -p /home/admin/mongodbints/shard4
# app5
[admin@app5 ~]$ mkdir -p /home/admin/mongodbints/mongo-config
[admin@app5 ~]$ mkdir -p /home/admin/mongodbints/shard3
[admin@app5 ~]$ mkdir -p /home/admin/mongodbints/shard4
[admin@app5 ~]$ mkdir -p /home/admin/mongodbints/shard5

​ 在以上所有目录下，分别创建data、log 目录，如：

[admin@app1 ~]$ cd /home/admin/mongodbints/mongos/
[admin@app1 mongos]$ mkdir data
[admin@app1 mongos]$ mkdir log
[admin@app1 mongos]$ ll
drwxrwxr-x 4 admin admin 4096 10月 13 16:37 data
drwxrwxr-x 2 admin admin   23 5月   4 09:29 log

3）编写配置文件

​ 在以上各个节点的根目录下，分别编辑如下配置文件。

mongos.yaml(mongos)

​ /home/admin/mongodbints/mongos/mongos.yaml

## mongos
processManagement:
    fork: true
    pidFilePath: /home/admin/mongodbints/mongos/mongos.pid
net:
    port: 27017
systemLog:
    destination: file
    path: "/home/admin/mongodbints/mongos/log/mongos.log"
    logAppend: true
sharding:
    configDB: csRS/172.10.20.12:27001,172.10.20.14:27001,172.10.20.15:27001
mongod.yaml(mongo-config)

​ /home/admin/mongodbints/mongo-config/mongod.yaml

processManagement:
    fork: true
    pidFilePath: /home/admin/mongodbints/mongo-config/mongod.pid
net:
    bindIp: [127.0.0.1,172.10.20.10,172.10.20.11,172.10.20.12,172.10.20.14,172.10.20.15]
    port: 27001
storage:
    dbPath: "/home/admin/mongodbints/mongo-config/data"
    journal:
        enabled: true
systemLog:
    destination: file
    path: "/home/admin/mongodbints/mongo-config/log/mongod.log"
    logAppend: true
sharding:
    clusterRole: configsvr
replication:
    replSetName: csRS
mongod.yaml(shard[1~5])

​ /home/admin/mongodbints/shard[1~5]/mongod.yaml

processManagement:
    fork: true
    pidFilePath: /home/admin/mongodbints/shard1/shard1.pid
net:
    bindIp: [127.0.0.1,172.10.20.10,172.10.20.11,172.10.20.12,172.10.20.14,172.10.20.15]
    port: 27101
storage:
    dbPath: "/home/admin/mongodbints/shard1/data"
    journal:
        enabled: true
    directoryPerDB: true
    engine: wiredTiger
    wiredTiger:
        engineConfig:
            cacheSizeGB: 2
systemLog:
    destination: file
    path: "/home/admin/mongodbints/shard1/log/shard1.log"
    logAppend: true
sharding:
    clusterRole: shardsvr
replication:
    oplogSizeMB: 5120
    replSetName: shard1
    secondaryIndexPrefetch: all
operationProfiling:
    slowOpThresholdMs: 100
    mode: slowOp

​ 生成shard2 ~ shard5的配置文件，修改以下相应的信息：

​ pidFilePath: /home/admin/mongodbints/shard1/shard1.pid

​ port: 27101 //port为之前为每个分片预留的端口

​ dbPath: "/home/admin/mongodbints/shard1/data"

​ path: "/home/admin/mongodbints/shard1/log/shard1.log"

​ replSetName: shard1

4）启动配置服务

  1. 启动每一台配置服务
## mongo-config at app3
[admin@app3 ~]$ ~/cli-mongodb/bin/mongod -f ~/mongodbints/mongo-config/mongod.yaml
## mongo-config at app4
[admin@app4 ~]$ ~/cli-mongodb/bin/mongod -f ~/mongodbints/mongo-config/mongod.yaml
## mongo-config at app5
[admin@app5 ~]$ ~/cli-mongodb/bin/mongod -f ~/mongodbints/mongo-config/mongod.yaml
  1. 在任意一台配置服务器上执行初始化集群配置
[admin@app3 ~]$ ~/cli-mongodb/bin/mongo --port 27001
> config = {_id:"csRS", configsvr:true, members:[
    {_id:0, host:"172.10.20.12:27001"},
    {_id:1, host:"172.10.20.14:27001"},
    {_id:2, host:"172.10.20.15:27001"}
]};
>rs.initiate(config);

​ 注：config的"_id"必须与mongod.yaml(mongo-config)的replication.replSetName的值一致。

5）启动数据节点服务

  1. 启动每一台数据节点服务
## app1
[admin@app1 ~]$ ~/cli-mongodb/bin/mongod -f shard1/mongod.yaml
[admin@app1 ~]$ ~/cli-mongodb/bin/mongod -f shard4/mongod.yaml
[admin@app1 ~]$ ~/cli-mongodb/bin/mongod -f shard5/mongod.yaml
## app2
[admin@app2 ~]$ ~/cli-mongodb/bin/mongod -f shard1/mongod.yaml
[admin@app2 ~]$ ~/cli-mongodb/bin/mongod -f shard2/mongod.yaml
[admin@app2 ~]$ ~/cli-mongodb/bin/mongod -f shard5/mongod.yaml
## app3
[admin@app3 ~]$ ~/cli-mongodb/bin/mongod -f shard1/mongod.yaml
[admin@app3 ~]$ ~/cli-mongodb/bin/mongod -f shard2/mongod.yaml
[admin@app3 ~]$ ~/cli-mongodb/bin/mongod -f shard3/mongod.yaml
## app4
[admin@app4 ~]$ ~/cli-mongodb/bin/mongod -f shard2/mongod.yaml
[admin@app4 ~]$ ~/cli-mongodb/bin/mongod -f shard3/mongod.yaml
[admin@app4 ~]$ ~/cli-mongodb/bin/mongod -f shard4/mongod.yaml
## app5
[admin@app5 ~]$ ~/cli-mongodb/bin/mongod -f shard3/mongod.yaml
[admin@app5 ~]$ ~/cli-mongodb/bin/mongod -f shard4/mongod.yaml
[admin@app5 ~]$ ~/cli-mongodb/bin/mongod -f shard5/mongod.yaml
  1. 初始化各个数据分片节点的集群配置

在有相关分片配置的任意服务器上，执行初始化集群配置。

eg：shard1的副本分别部署在app1、app4、app5上，在各服务器上分给shard1的端口均为27101。

## shard1
[admin@app1 ~]$ ~/cli-mongodb/bin/mongo --port 27101
> use admin;
> config = { "_id" : "shard1", "members" : [
    {"_id" : 0, "host" : "172.10.20.10:27101"},
    {"_id" : 1, "host" : "172.10.20.11:27101"},
    {"_id" : 2, "host" : "172.10.20.12:27101", "arbiterOnly" : true}
]};
>rs.initiate(config);
## shard2
[admin@app2 ~]$ ~/cli-mongodb/bin/mongo --port 27102
> use admin;
> config = { "_id" : "shard2", "members" : [
    {"_id" : 0, "host" : "172.10.20.11:27102"},
    {"_id" : 1, "host" : "172.10.20.12:27102"},
    {"_id" : 2, "host" : "172.10.20.14:27102", "arbiterOnly" : true}
]};
>rs.initiate(config);
## shard3
[admin@app3 ~]$ ~/cli-mongodb/bin/mongo --port 27103
> use admin;
> config = { "_id" : "shard3", "members" : [
    {"_id" : 0, "host" : "172.10.20.12:27103"},
    {"_id" : 1, "host" : "172.10.20.14:27103"},
    {"_id" : 2, "host" : "172.10.20.15:27103", "arbiterOnly" : true}
]};
>rs.initiate(config);
## shard4
[admin@app4 ~]$ ~/cli-mongodb/bin/mongo --port 27104
> use admin;
> config = { "_id" : "shard4", "members" : [
    {"_id" : 0, "host" : "172.10.20.14:27104"},
    {"_id" : 1, "host" : "172.10.20.15:27104"},
    {"_id" : 2, "host" : "172.10.20.10:27104", "arbiterOnly" : true}
]};
>rs.initiate(config);
## shard5
[admin@app5 ~]$ ~/cli-mongodb/bin/mongo --port 27105
> use admin;
> config = { "_id" : "shard5", "members" : [
    {"_id" : 0, "host" : "172.10.20.15:27105"},
    {"_id" : 1, "host" : "172.10.20.10:27105"},
    {"_id" : 2, "host" : "172.10.20.11:27105", "arbiterOnly" : true}
]};
>rs.initiate(config);

​ 注：shard[1~5]的config的"_id"必须分别与各自的mongod.yaml的replication.replSetName的值一致。

6）启动mongos路由服务

  1. 启动每一台mongos路由服务
## mongos at app1
[admin@app1 ~]$ ~/cli-mongodb/bin/mongos -f ~/mongodbints/mongos/mongos.yaml
## mongos at app2
[admin@app2 ~]$ ~/cli-mongodb/bin/mongos -f ~/mongodbints/mongos/mongos.yaml
  1. 添加分片

​ 目前搭建了mongodb配置服务器、路由服务器，各个分片服务器，不过应用程序连接到mongos路由服务器并不能使用分片机制，还需要在程序里设置分片配置，让分片生效。

[admin@app1 ~]$ ./cli-mongodb/bin/mongo 172.10.20.10:27017
> use admin;
> sh.addShard("shard1/172.10.20.10:27101,172.10.20.11:27101,172.10.20.12:27101");
> sh.addShard("shard2/172.10.20.11:27102,172.10.20.12:27102,172.10.20.14:27102");
> sh.addShard("shard3/172.10.20.12:27103,172.10.20.14:27103,172.10.20.15:27103");
> sh.addShard("shard4/172.10.20.14:27104,172.10.20.15:27104,172.10.20.10:27104");
> sh.addShard("shard5/172.10.20.15:27105,172.10.20.10:27105,172.10.20.11:27105");

​ 注：如果以上addShard命令有提示错误，请将每个分片的仲裁节点IP去掉重试。

​ 查看状态。

> sh.status();
--- Sharding Status --- 
  sharding version: {
    "_id" : 1,
    "minCompatibleVersion" : 5,
    "currentVersion" : 6,
    "clusterId" : ObjectId("590a9c5d74643311c14ed3e4")
  }
  shards:
    { "_id" : "shard1", "host" : "shard1/172.10.20.10:27101,172.10.20.11:27101", "state" : 1 }
    { "_id" : "shard2", "host" : "shard2/172.10.20.11:27102,172.10.20.12:27102", "state" : 1 }
    { "_id" : "shard3", "host" : "shard3/172.10.20.12:27103,172.10.20.14:27103", "state" : 1 }
    { "_id" : "shard4", "host" : "shard4/172.10.20.14:27104,172.10.20.15:27104", "state" : 1 }
    { "_id" : "shard5", "host" : "shard5/172.10.20.10:27105,172.10.20.15:27105", "state" : 1 }
  active mongoses:
    "3.4.4" : 2
  ...... ......

7）应用启停顺序（待验证）

​ 在关闭集群应用时，尽量注意以下顺序：

​ 关闭mongos路由服务

​ 关闭数据服务从节点、仲裁节点

​ 关闭数据服务主节点

​ 关闭config配置服务

​ 在启动集群应用时，尽量注意以下顺序：

​ 启动config配置服务

​ 启动数据服务主节点

​ 启动数据服务从节点、仲裁节点

​ 启动mongos路由服务

​ 至此，集群服务配置完毕。

五、集群应用

​ 配置分片库表。详细使用请参阅官方文档。

[admin@app1 ~]$ ./cli-mongodb/bin/mongo 172.10.20.10:27017
> sh.enableSharding("testdb");
> sh.shardCollection("testdb.table1",{id:1}});
weixin_33989058
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
MongoDB3.4 分片+副本集的集群部署之旅
sunnyJam的专栏
02-20 340
概述： MongoDB 是一个基于分布式文件存储的Nosql数据库。由 C++ 语言编写。旨在为 WEB 应用提供可扩展的高性能数据存储解决方案。目前mongodb官网提供了三种集群的搭建方式：1、主从（官网已不推荐）2、副本集 3、分片。本章主要介绍分片+副本集+配置服务+路由节点的部署方式。   为何要分片？       对于大多数程序而言，在一台服务器上保存完整的数据集完全足够了。但是随...
centos7+mongodb 3.4 集群搭建：分片+副本集
12-13
centos7.0+mongodb 3.4 集群搭建：分片+副本集。3台虚拟机。如有问题可留言。
MongoDB 3.4分片【Linux】
weixin_30729609的博客
03-10 97
前言 在学习MongoDB时，涉及到分片的概念，需要实际操作以后才能看出效果。故在Linux中设置一个例子，以便以后学习标记。 分片 在Mongodb里面存在另一种集群，就是分片技术,可以满足MongoDB数据量大量增长的需求。 当MongoDB存储海量的数据时，一台机器可能不足以存储数据，也可能不足以提供可接受的读写吞吐量。这时，我们就可以通过在多台机器上分割数据，使得数据库系统能存储和...
MongoDB 3.4 分片与副本集实践笔记
积累与备忘
05-12 819
第一步： 准备数据节点 我们准备两个单节点，当然，你也可以使用副本集作为数据节点，只是我的PC实在跑不动…… 必须添加–shardsvr参数。 mongod --port 32770 --shardsvr --dbpath D:\db\mongodata\shard\mongodb1 --logpath D:\db\mongodata\shard\mongodb1.lo
Mongodb3.4分片搭建
dhfttkl123的博客
12-22 3044
1.前言 找了很多书，发现对分片的搭建还是有模糊，所以这一次记一下。 2.搭建环境 一共四台主机 ip 职能 192.168.0.124 config、mongos 192.168.0.125 share1 192.168.0.126 share2 192.168.0.127 share3 他们
MongoDB4.2分片及副本集群搭建
最新发布
04-21
MongoDB4.2分片及副本集群搭建 MongoDB集群 MongoDB分片 MongoDB副本 MongoDB副本集群
mongodb3.4集群搭建实战之高可用的分片+副本集
09-09
通过以上步骤，一个高可用的MongoDB 3.4分片+副本集集群就搭建完成了。这种架构能够提供优秀的扩展性和高可用性，满足大数据量和高并发场景的需求。然而，集群的管理也需要投入额外的精力，包括监控、维护和故障恢复...
Mongodb分片副本集集群搭建
04-04
搭建Mongodb分片集群的步骤文档，度娘上很多坑，被坑的可以看看，本文档专门埋坑。
mongodb 分片集群搭建过程（无副本）
04-18
mongodb 分片集群搭建过程（无副本），详细操作步骤，linux命令
MongoDB 3.4配置sharding分片
cuantangnie3915的博客
12-02 185
1.创建配置服务副本集 创建数据目录，config目录供配置服务使用，shard目录供分片数据节点使用 [root@MySQL01 ~]# su - mongo [mongo@MySQL01 ~]$ cd /data/d...
mongodb 3.4 集群搭建：分片+副本集
大JAVA解决方案
05-11 2558
mongodb 3.4 集群搭建：分片+副本集1. 概述1.1 背景为解决mongodb在replica set每个从节点上面的数据库均是对数据库的全量拷贝，从节点压力在高并发大数据量的场景下存在很大挑战，同时考虑到后期mongodb集群的在数据压力巨大时的扩展性，应对海量数据引出了分片机制。 1.2 分片概念分片是将数据库进行拆分，将其分散在不同的机器上的过程，无需功能强大的服务器就可以存储更多...
mongodb3.4版本 副本集+分片配置
三丰的博客
11-18 287
使用了2台服务器 副本集:rs0 62: 27100 主 69: 27100 从 27200 仲裁 ----------------------------------------------------------------------- 分片: 62: 28000 30000 路由 69: 28000 30000 confServer ----------------------...
MongoDB 搭建高可用集群（分片副本集）
let懒的博客
05-08 365
一、 架构图如下 分片副本集部署规划： 2个mongos实例分别在192.168.1.1、192.168.1.2上，端口为27019 3个config实例分别在192.168.2.1、192.168.2.2、192.168.2.3上，端口为27018，副本集名为configs shard1分片的副本集配置的三个实例分别在192.168.3.1、192.168.3.2、192.168.3.3上，...
mongodb3.4.6配置主从
weixin_34208283的博客
06-30 124
1.rpm包安装mongodb3.4.6 下载地址：https://repo.mongodb.org/yum/redhat/7/mongodb-org/3.4/x86_64/RPMS/ rpm -ivh mongodb-org-shell-3.4.6-1.el7.x86_64.rpm rpm -ivh mongodb-org-tools-3.4.6-1.el7.x86_64.rpm ...
MongoDB-3.4搭建副本集
weixin_30758821的博客
11-30 99
搭建副本集 1：首先创建3台虚拟机作为配置环境 IP1：192.168.101.175 IP2：192.168.101.176 IP3：192.168.101.177 2.下载MongoDB 3.4版本，没有的文件或者文件夹请自行创建。 3.编辑配置文件E:\mongodb-3.4\conf\mongo.conf IP1：192.168.101.177 #数据库数据存放目录...
MongoDB分片集群(sharded cluster)搭建过程
热门推荐
duanbeibei的专栏
04-16 1万+
1.分片集群概述 MongoDB分片集群，英文名称为： Sharded Cluster 旨在通过横向扩展，来提高数据吞吐性能、增大数据存储量。 分片集群由三个组件：“mongos”, “config server”, “shard” 组成。 框架如下（图片来自mongodb官网说明）： mongos:数据库请求路由。负责接收所有客户端应用程序的连接查询请求，并将请求路由到集群内部对应的分片上。...
mongodb3.4+sharding分片集群环境搭建
feinifi的博客
06-29 9134
背景：sharding结构分析：shard:config:router:环境介绍：搭建步骤：数据验证：
MongoDB3.4版本分片集群+副本集的搭建教程
hanxiaozhang的博客
12-13 705
前言： 最近单位在做系统迁移，我负责基础服务的代建，写一篇文章来记录一下MongoDB分片集群+副本集的搭建过程。 正文： 一、基础概念： MongoDB分片集群+副本集主要包括：Mongos、Config Server、Shard、Replica set四个部分。Mongos是数据库的入口，相当于路由的功能。Config Server是配置服务器，存储所有数据库的元数据。Shard是分片，将数据库存储的数据拆分到不同的机器上，减少机器的负载。replica set是副本集，它就是shard的备份。
MongoDB 3.4 高可用集群搭建（四）—— 分片
weixin_34388207的博客
02-10 514
按照上一节中《MongoDB 3.4 高可用集群搭建（三）深入副本集内部机制》搭建后还有两个问题没有解决： 从节点每个上面的数据都是对数据库全量拷贝，从节点压力会不会过大？ 数据压力大到机器支撑不了的时候能否做到自动扩展？ 在系统早期，数据量还小的时候不会引起太大的问题，但是随着数据量持续增多，后续迟早会出现一台机器硬件瓶颈问题的。而mongodb主打的就是海量数据架构，他不能解...
Ubuntu 18.04部署MongoDB 4.x切片副本集集群指南
在实际部署中，MongoDB的分片副本集通常由以下组件构成： - **Shard Server**（分片服务器）：包含一组服务器，构成一个副本集，确保主节点的高可用性，避免单点故障。 - **Config Server**（配置服务器）：存储...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值