MongoDB3.6分片复制集群

最新推荐文章于 2023-06-17 18:05:53 发布
最新推荐文章于 2023-06-17 18:05:53 发布
阅读量192 收藏 1
点赞数
文章标签： 数据库 操作系统 运维
原文链接：http://www.cnblogs.com/knmax/p/8511770.html
版权

概念

  • mongos
    数据库集群请求的入口，所有的请求都通过mongos进行协调，不需要在应用程序添加一个路由选择器，mongos自己就是一个请求分发中心，它负责把对应的数据请求请求转发到对应的shard服务器上。在生产环境通常有多mongos作为请求的入口，防止其中一个挂掉所有的mongodb请求都没有办法操作。
  • config server
    顾名思义为配置服务器，存储所有数据库元信息（路由、分片）的配置。mongos本身没有物理存储分片服务器和数据路由信息，只是缓存在内存里，配置服务器则实际存储这些数据。mongos第一次启动或者关掉重启就会从 config server 加载配置信息，以后如果配置服务器信息变化会通知到所有的 mongos 更新自己的状态，这样 mongos 就能继续准确路由。在生产环境通常有多个 config server 配置服务器，因为它存储了分片路由的元数据，防止数据丢失！
  • shard
    分片（sharding）是指将数据库拆分，将其分散在不同的机器上的过程。将数据分散到不同的机器上，不需要功能强大的服务器就可以存储更多的数据和处理更大的负载。基本思想就是将集合切成小块，这些块分散到若干片里，每个片只负责总数据的一部分，最后通过一个均衡器来对各个分片进行均衡（数据迁移）。
  • replica set
    中文翻译副本集，其实就是shard的备份，防止shard挂掉之后数据丢失。复制提供了数据的冗余备份，并在多个服务器上存储数据副本，提高了数据的可用性， 并可以保证数据的安全性。
  • 仲裁者（Arbiter）
    是复制集中的一个MongoDB实例，它并不保存数据。仲裁节点使用最小的资源并且不要求硬件设备，不能将Arbiter部署在同一个数据集节点中，可以部署在其他应用服务器或者监视服务器中，也可部署在单独的虚拟机中。为了确保复制集中有奇数的投票成员（包括primary），需要添加仲裁节点做为投票，否则primary不能运行时不会自动切换primary。

总结一下，应用请求mongos来操作mongodb的增删改查，配置服务器存储数据库元信息，并且和mongos做同步，数据最终存入在shard（分片）上，为了防止数据丢失同步在副本集中存储了一份，仲裁在数据存储到分片的时候决定存储到哪个节点。

环境准备

系统：cenos7.4
服务器： 10.10.16.52/53/54
mongodb包: mongodb-linux-x86_64-rhel70-3.6.3.tgz

规划

mongodb-16-52mongodb-16-53mongodb-16-54
mongos/20000mongos/20000mongos/20000
config server/21000config server/21000config server/21000
shard server1 主节点(27001)shard server1 副节点(27001)shard server1 仲裁(27001)
shard server2 仲裁(27002)shard server2 主节点(27002)shard server2 副节点(27002)
shard server3副节点(27003)shard server1 仲裁(27003)shard server3 主节点(27003)

集群搭建

安装mongodb

wget https://fastdl.mongodb.org/linux/mongodb-linux-x86_64-rhel70-3.6.3.tgz
cd /usr/lcoal/
ln -sf mongodb-linux-x86_64-rhel70-3.6.3/ mongodb

分别在每台机器建立conf、mongos、config、shard1、shard2、shard3六个目录，因为mongos不存储数据，只需要建立日志文件目录即可。

mkdir -p /data/mongodb/conf
mkdir -p /data/mongodb/mongos/log
mkdir -p /data/mongodb/config/data
mkdir -p /data/mongodb/config/log
mkdir -p /data/mongodb/shard1/data
mkdir -p /data/mongodb/shard1/log
mkdir -p /data/mongodb/shard2/data
mkdir -p /data/mongodb/shard2/log
mkdir -p /data/mongodb/shard3/data
mkdir -p /data/mongodb/shard3/log

添加用户、配置环境变量

useradd -M -u 8000 -s /sbin/nologin mongo
chown -R mongo.mongo /usr/local/mongodb
chown -R mongo.mongo /data/mongodb

config server 配置服务

mongodb3.4以后要求配置服务器也创建副本集，不然集群搭建不成功

添加配置文件

cat >> /data/mongodb/conf/config.conf << EOF
## 配置文件内容
pidfilepath = /data/mongodb/config/log/config-srv.pid
dbpath = /data/mongodb/config/data
logpath = /data/mongodb/config/log/config-srv.log
logappend = true
 
bind_ip = 0.0.0.0
port = 21000
fork = true
 
#declare this is a config db of a cluster;
configsvr = true

#副本集名称
replSet=configs
 
#设置最大连接数
maxConns=20000
EOF

systemd 启动脚本

cat >> /usr/lib/systemd/system/mongo-config.service << EOF
[Unit]  
  
Description=mongodb-config   
After=network.target remote-fs.target nss-lookup.target  
  
[Service]  
Type=forking
User=mongo
Group=mongo
ExecStart=/usr/local/mongodb/bin/mongod -f /data/mongodb/conf/config.conf
ExecReload=/bin/kill -s HUP $MAINPID  
ExecStop=/usr/local/mongodb/bin/mongod --shutdown -f /data/mongodb/conf/config.conf 
PrivateTmp=true  
    
[Install]  
WantedBy=multi-user.target 
EOF

启动三台服务器的config server

systemctl daemon-reload 
systemctl start mongo-config
systemctl enable mongo-config

初始化副本集
登录任意一台配置服务器，初始化配置副本集

mongo --port 21000   //登陆

#config变量
config = {
...    _id : "configs",
...     members : [
...         {_id : 0, host : "10.10.16.52:21000" },
...         {_id : 1, host : "10.10.16.53:21000" },
...         {_id : 2, host : "10.10.16.54:21000" }
...     ]
... }

#初始化副本集
rs.initiate(config)
# 查看集群状态
rs.status()

其中，_id :,configs应与配置文件中配置的 replicaction.replSetName 一致，members 中的 host 为三个节点的 ip 和 port

配置分片副本集(三台机器)

设置第一个分片副本集

配置文件

cat >> /data/mongodb/conf/shard1.conf << EOF
pidfilepath = /data/mongodb/shard1/log/shard1.pid
dbpath = /data/mongodb/shard1/data
logpath = /data/mongodb/shard1/log/shard1.log
logappend = true
journal = true
quiet = true
bind_ip = 0.0.0.0
port = 27001
fork = true
#副本集名称
replSet=shard1
 
#declare this is a shard db of a cluster;
shardsvr = true
 
#设置最大连接数
maxConns=20000
EOF

systemd 启动脚本

cat >> /usr/lib/systemd/system/mongo-shard1.service << EOF
[Unit]  
  
Description=mongodb-shard1  
After= mongo-config.target network.target
  
[Service]  
Type=forking
User=mongo
Group=mongo
ExecStart=/usr/local/mongodb/bin/mongod -f /data/mongodb/conf/shard1.conf
ExecReload=/bin/kill -s HUP $MAINPID  
ExecStop=/usr/local/mongodb/bin/mongod --shutdown -f /data/mongodb/conf/shard1.conf 
PrivateTmp=true  
    
[Install]  
WantedBy=multi-user.target 
EOF

启动三台服务器的shard1 server

systemctl daemon-reload 
systemctl start mongo-shard1
systemctl enable mongo-shard1

初始化副本集
登录任意一台配置服务器，初始化配置副本集

mongo --port 27001
#使用admin数据库
use admin
#定义副本集配置，第三个节点的 "arbiterOnly":true 代表其为仲裁节点。不可为当前初始化设置的节点

config = {
...    _id : "shard1",
...     members : [
...         {_id : 0, host : "10.10.16.52:27001" },
...         {_id : 1, host : "10.10.16.53:27001" },
...         {_id : 2, host : "10.10.16.54:27001" , arbiterOnly: true }
...     ]
... }

#初始化副本集配置
rs.initiate(config);

rs.status()

设置第二个分片副本集

配置文件

cat >> /data/mongodb/conf/shard2.conf << EOF
pidfilepath = /data/mongodb/shard2/log/shard2.pid
dbpath = /data/mongodb/shard2/data
logpath = /data/mongodb/shard2/log/shard2.log
logappend = true
journal = true
quiet = true
bind_ip = 0.0.0.0
port = 27002
fork = true
#副本集名称
replSet=shard2
 
#declare this is a shard db of a cluster;
shardsvr = true
 
#设置最大连接数
maxConns=20000
EOF

systemd 启动脚本

cat >> /usr/lib/systemd/system/mongo-shard2.service << EOF
[Unit]  
  
Description=mongodb-shard2  
After= mongo-config.target network.target
  
[Service]  
Type=forking
User=mongo
Group=mongo
ExecStart=/usr/local/mongodb/bin/mongod -f /data/mongodb/conf/shard2.conf
ExecReload=/bin/kill -s HUP $MAINPID  
ExecStop=/usr/local/mongodb/bin/mongod --shutdown -f /data/mongodb/conf/shard2.conf 
PrivateTmp=true  
    
[Install]  
WantedBy=multi-user.target 
EOF

启动三台服务器的shard2 server

systemctl daemon-reload 
systemctl start mongo-shard2
systemctl enable mongo-shard2

初始化副本集
登录任意一台配置服务器,任意选一台服务器（注意：不要选择即将要设置为仲裁节点的服务器）

mongo --port 27002
#使用admin数据库
use admin
#定义副本集配置，第三个节点的 "arbiterOnly":true 代表其为仲裁节点。不可为当前初始化设置的节点

config = {
...    _id : "shard2",
...     members : [
...         {_id : 0, host : "10.10.16.52:27002", arbiterOnly: true  },
...         {_id : 1, host : "10.10.16.53:27002" },
...         {_id : 2, host : "10.10.16.54:27002" }
...     ]
... }

#初始化副本集配置
rs.initiate(config);
rs.status()

设置第三个分片副本集

配置文件

cat >> /data/mongodb/conf/shard3.conf << EOF
pidfilepath = /data/mongodb/shard3/log/shard3.pid
dbpath = /data/mongodb/shard3/data
logpath = /data/mongodb/shard3/log/shard3.log
logappend = true
journal = true
quiet = true
bind_ip = 0.0.0.0
port = 27003
fork = true
#副本集名称
replSet=shard3
 
#declare this is a shard db of a cluster;
shardsvr = true
 
#设置最大连接数
maxConns=20000
EOF

systemd 启动脚本

cat >> /usr/lib/systemd/system/mongo-shard3.service << EOF
[Unit]  
  
Description=mongodb-shard3  
After= mongo-config.target network.target
  
[Service]  
Type=forking
User=mongo
Group=mongo
ExecStart=/usr/local/mongodb/bin/mongod -f /data/mongodb/conf/shard3.conf
ExecReload=/bin/kill -s HUP $MAINPID  
ExecStop=/usr/local/mongodb/bin/mongod --shutdown -f /data/mongodb/conf/shard3.conf 
PrivateTmp=true  
    
[Install]  
WantedBy=multi-user.target 
EOF

启动三台服务器的shard3 server

systemctl daemon-reload 
systemctl start mongo-shard3
systemctl enable mongo-shard3

初始化副本集
登录任意一台配置服务器,任意选一台服务器（注意：不要选择即将要设置为仲裁节点的服务器）

mongo --port 27003

#使用admin数据库
use admin

#定义副本集配置，第三个节点的 "arbiterOnly":true 代表其为仲裁节点。不可为当前初始化设置的节点

config = {
...    _id : "shard3",
...     members : [
...         {_id : 0, host : "10.10.16.52:27003" },
...         {_id : 1, host : "10.10.16.53:27003",arbiterOnly: true },
...         {_id : 2, host : "10.10.16.54:27003" }
...     ]
... }

#初始化副本集配置
rs.initiate(config);
rs.status()

配置路由服务器 mongos

先启动配置服务器和分片服务器,后启动路由实例:（三台机器）
配置文件

cat >> /data/mongodb/conf/mongos.conf << EOF
pidfilepath = /data/mongodb/mongos/log/mongos.pid
logpath = /data/mongodb/mongos/log/mongos.log
logappend = true

bind_ip = 0.0.0.0
port = 20000
fork = true

#监听的配置服务器,只能有1个或者3个 configs为配置服务器的副本集名字
configdb = configs/10.10.16.52:21000,10.10.16.53:21000,10.10.16.54:21000
 
#设置最大连接数
maxConns=20000
EOF

systemd 启动脚本

cat >> /usr/lib/systemd/system/mongos.service << EOF
[Unit]
Description=Mongo Router Service
After=mongo-config.service

[Service]
Type=forking
User=mongo
Group=mongo
ExecStart=/usr/local/mongodb/bin/mongos --config /data/mongodb/conf/mongos.conf
Restart=on-failure

[Install]
WantedBy=multi-user.target
EOF

启动三台服务器的mongos server

systemctl daemon-reload 
systemctl start mongos
systemctl enable mongos

启用分片

目前搭建了mongodb配置服务器、路由服务器，各个分片服务器，不过应用程序连接到mongos路由服务器并不能使用分片机制，还需要在程序里设置分片配置，让分片生效。
登陆任意一台mongos

mongo --port 20000
#使用admin数据库
use admin
#串联路由服务器与分配副本集
sh.addShard("shard1/10.10.16.52:27001,10.10.16.53:27001,10.10.16.54:27001")
sh.addShard("shard2/10.10.16.52:27002,10.10.16.53:27002,10.10.16.54:27002")
sh.addShard("shard3/10.10.16.52:27003,10.10.16.53:27003,10.10.16.54:27003")
#查看集群状态
sh.status()


sh.status()
--- Sharding Status --- 
  sharding version: {
        "_id" : 1,
        "minCompatibleVersion" : 5,
        "currentVersion" : 6,
        "clusterId" : ObjectId("5a9a97f70d2d5d358998988d")
  }
  shards:
        {  "_id" : "shard1",  "host" : "shard1/10.10.16.52:27001,10.10.16.53:27001",  "state" : 1 }
        {  "_id" : "shard2",  "host" : "shard2/10.10.16.53:27002,10.10.16.54:27002",  "state" : 1 }
        {  "_id" : "shard3",  "host" : "shard3/10.10.16.52:27003,10.10.16.54:27003",  "state" : 1 }
  active mongoses:
        "3.6.3" : 3
  autosplit:
        Currently enabled: yes
  balancer:
        Currently enabled:  yes
        Currently running:  no
        Failed balancer rounds in last 5 attempts:  0
        Migration Results for the last 24 hours: 
                No recent migrations
  databases:
        {  "_id" : "config",  "primary" : "config",  "partitioned" : true }

测试

目前配置服务、路由服务、分片服务、副本集服务都已经串联起来了，但我们的目的是希望插入数据，数据能够自动分片。连接在mongos上，准备让指定的数据库、指定的集合分片生效。

#指定testdb分片生效
db.runCommand( { enablesharding :"testdb"});
#指定数据库里需要分片的集合和片键
db.runCommand( { shardcollection : "testdb.table1",key : {id: 1} } )

我们设置testdb的 table1 表需要分片，根据 id 自动分片到 shard1 ，shard2，shard3 上面去。要这样设置是因为不是所有mongodb 的数据库和表 都需要分片！
测试分片配置结果

mongo 127.0.0.1 --port 20000
#使用testdb
use  testdb;
#插入测试数据
for(i=1;i<=1000;i++){db.table1.insert({"id":i,"name":"lovego"})};
# 总条数
db.table1.aggregate([{$group : {_id : "$name", totle : {$sum : 1}}}])
{ "_id" : "lovego", "totle" : 100000 }

#查看分片情况如下，
db.table1.stats();

维护

启动顺序

systemctl start mongo-config
systemctl start mongo-shard1
systemctl start mongo-shard2
systemctl start mongo-shard3
systemctl start mongos

关闭顺序

systemctl stop mongos
systemctl stop mongo-shard1
systemctl stop mongo-shard2
systemctl stop mongo-shard3
systemctl stop mongo-config

参考

https://cloud.tencent.com/developer/article/1034843
http://www.ityouknow.com/mongodb/2017/08/05/mongodb-cluster-setup.html
http://www.cnblogs.com/clsn/p/8214345.html

转载于:https://www.cnblogs.com/knmax/p/8511770.html

weixin_30914981
关注
MongoDB安装部署
jx1501211的博客
07-05 1319
5.创建数据目录，日志文件及目录并创建相应配置文件。6.启动MongoDB数据库，-f指定配置文件。2.指定一个进程同一时间最多可开启的文件数。3.用户最多可开启的进程数目。构建MongoDB复制集集群。一、mongodb安装部署。配置4个MongoDB实例。7、设置开机自动启动。
基于docker的MongoDB（3.6） 分片集群编排
Beryl的博客
11-13 1447
** 基于docker的MongoDB（3.6） 分片集群编排 ** 配置docker文件：docker-compose.yml version: &amp;amp;amp;amp;amp;quot;3&amp;amp;amp;amp;amp;quot; services: config_container1: image: mongo:3 volumes: - /public/mongodbtest/cs/rs1:/data/db
MongoDB的部署
抽象的螺旋
04-04 1565
概述 下载 mongoDB官网：https://www.mongodb.com/ windows下载 liunx选择相应的平台和版本下载，选择tgz类型，如下centos8.0 linux部署 上传下载的压缩包到linux中，并解压 tar -xvf mongodb-linux-x86_64-rhel80-4.4.4.tgz 移动到指定目录 mv mongodb-linux-x86_64-rhel80-4.4.4 /usr/local/mongodb 新建数据库目录和日志目录
MongoDB 部署（亲测有效）
RAB
12-31 2425
MongoDB 服务部署。
MongoDB生产部署方案
最新发布
m0_37908257的博客
06-17 1058
提供集群单一入口，客户端由此接入，且让整个集群看上去像单一数据库，前端应用可以透明使用，router不存储数据。搭建：可以有多个，理论上只需要使用一个，建议至少2个达到高可用。功能：转发应用端请求，选择合适数据节点进行读写，合并多个数据节点的返回。提供集群元数据存储目录，分片数据分布的映射（哪些数据放在哪个分片集群）搭建：就是普通的复制集架构，一般1主2从提供高可用。配置节点中比较重要的就是Shared这张表，里面存储分片中数据的范围。
史上最全MongoDB之部署篇
janyxe的博客
06-18 2132
本系列课程将带着大家以面试题的方式 深入分布式专题之MongoDB。这篇文章带着大家部署MongoDB界面下载Version: 4.4.14Platform: RedHat / CentOS 7.0curl 下载 部署成功会返回如下信息 返回如下信息说明MongoDB 启动成功 配置环境变量 按 + 可到底部 配置文件方式启动服务 启动mongoDB服务......
mongodb3.6集群搭建:分片+副本集
(Andrew)的专栏
02-19 6968
mongodb是最常用的noSql数据库，在数据库排名中已经上升到了前五。这篇文章介绍如何搭建高可用的mongodb（分片+副本）集群。在搭建集群之前，需要首先了解几个概念：路由，分片、副本集、配置服务器等。相关概念mongodb集群架构图：从图中可以看到有四个组件：mongos、config server、shard、replica set。mongos，数据库集群请求的入口，所有的请求都通过m...
mongodb分片集群增加acl
03-15
通过本文，可以了解到搭建MongoDB 3.6分片集群的基础步骤，并对如何增加安全性有了基本的掌握。当然，在实践中还需要注意错误处理、监控和性能调优等其他重要方面，这些知识可以通过继续深入学习MongoDB的官方文档和...
mongoDB分片集群部署
weixin_39934651的博客
02-22 1788
一、MongoDB 背景 MongoDB 是一款功能完善的分布式文档数据库，是一款非常出名的 NoSQL 数据库。当前国内使用 Mongodb 的大型实践越来越多，MongoDB 为我司提供了重要的数据库存储服务，支撑着每天近千万级 QPS 峰值读写，数万亿级数据量存储服务。 MongoDB 在高性能、动态扩缩容、高可用、易部署、易使用、海量数据存储等方面拥有很大优势。近些年，MongoDB 在 DB-Engines 流行度排行榜稳居榜单 Top5 ，且历年得分是持续增长的，具体如下图所示： DB-En
MongoDB 主从 (副本集) 和分片集群的概念
weixin_41335923的博客
04-28 1892
MongoDB 主从 (副本集) 和分片集群的概念
MongoDB部署说明
engxong01的博客
03-15 413
MongoDB下载wget https://fastdl.mongodb.org/linux/mongodb-linux-x86_64-rhel62-3.6.1.tgz解压tar xf mongodb-linux-x86_64-rhel62-3.6.1.tgz移动mv mongodb-linux-x86_64-rhel62-3.6.1   mongodbmv mongodb /usr/local/...
mongoDB分片--版本3.6
lemon627497658的博客
06-27 236
分片数据流向 mongos（路由）-->mongocnf（配置集）-->N(N>2)个mongod（实例） 1、建立两个普通的mongod进程 普17：127.0.01:27017 普18: 127.0.0.1:27018 首先，建立路径放置各个mongodb进程的数据文件、日志文件。 普17: mkdir -p data/db17 普18: mkdir -p da...
MongoDB部署
shonegg的技术人生
07-29 372
主机环境ubuntu 14.041.安装wangxiong@Dell:~/Soft/mongoDb$ sudo apt-get install mongodb2.查看服务是否运行wangxiong@Dell:~/Soft/mongoDb$ pgrep mongo -l 19326 mongod3.进入数据库 wangxiong@Dell:~/Soft/mongoDb$ mongo MongoDB s
mongoDB 部署
武小白的博客
10-12 545
1， 创建文件目录 #mkdir –p /app/install #mkdir –p /app/data/mongodb #mkdir –p /app/log/mongodb2， 下载 mongodb ， 解压 #cd /app/install #tar zxvf mongodb-linux-x86_64-3.2.10.tgz #mv mongodb-linux-x86_64-3.2.10 ../...
Mongodb数据库的部署
qq_60142726的博客
05-20 354
mongodb数据库的部署
MongoDB实现分片复制集
尘土的博客
08-31 3479
MongoDB是一个介于关系数据库和非关系数据库之间的产品，是非关系数据库当中功能最丰富，最像关系数据库的。他支持的数据结构非常松散，是类似json的bson格式，因此可以存储比较复杂的数据类型。Mongo最大的特点是他支持的查询语言非常强大，其语法有点类似于面向对象的查询语言，几乎可以实现类似关系数据库单表查询的绝大部分功能，而且还支持对数据建立索引。
将MongoDB部署到分布式集群（实操）
YHJ
05-13 2605
本教程前面的内容基本涵盖了MongoDB的基本知识，现在在单机环境下操作 MongoDB 已经不存在问题，但是单机环境只适合学习和开发测试，在实际的生产环境中，MongoDB 基本是以集群的方式工作的。集群的工作方式能够保证在生产遇到故障时及时恢复，保障应用程序正常地运行和数据的安全。接下来我们重点介绍 MongoDB 的集群工作方式，以及在集群工作方式下，MongoDB 是如何使用分片和复制的机制来完成对数据的管理和恢复的。本节我们从理论上讲解 MongoDB 分布式集群架构的三种模式，下节《将Mon..
4. MongoDB部署
努力学习
08-25 864
​ 可复制集是跨多个 MongDB 服务器（节点）分布和维护数据的方法。mongoDB 可以把数据 从一个节点复制到其他节点并在修改时进行同步,集群中的节点配置为自动同步数据；旧方 法叫做主从复制,mongoDB 3.0 以后推荐使用可复制集；避免数据丢失,保障数据安全,提高系统安全性；（最少 3 节点,最大 50 节点）自动化灾备机制,主节点宕机后通过选举产生新主机；提高系统健壮性；（7 个选举节点上限）读写分离,负载均衡,提高系统性能；生产环境推荐的部署模式；
MongoDB生产环境分片集群实战指南
"MongoDB集群配置包括分片与副本集的实施" MongoDB集群配置文档主要讲解了如何在生产环境中设置MongoDB的分片和集群，以实现高效的数据管理和扩展性。MongoDB是一种流行的NoSQL数据库，它以文档对象的形式存储数据...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值