MongDB4.2.7分片复制集集群搭建

MongDB分片副本集集群

副本集解决主节点发生故障导致数据丢失或不可用的问题，但遇到需要存储海量数据的情况时，副本集机制就束手无策了。副本集中的一台机器可能不足以存储数据，或者说集群不足以提供可接受的读写吞吐量。这就需要用到 MongoDB 的分片（Sharding）技术，这也是 MongoDB 的另外一种集群部署模式。

分片是指将数据拆分并分散存放在不同机器上的过程。有时也用分区来表示这个概念。将数据分散到不同的机器上，不需要功能强大的大型计算机就可以存储更多的数据，处理更大的负载。

MongoDB 支持自动分片，可以使数据库架构对应用程序不可见，简化系统管理。对应用程序而言，就如同始终在使用一个单机的 MongoDB 服务器一样。

MongoDB 的分片机制允许创建一个包含许多台机器的集群，将数据子集分散在集群中，每个分片维护着一个数据集合的子集。与副本集相比，使用集群架构可以使应用程序具有更强大的数据处理能力。

下图展示了在MongoDB中使用分片集群结构分布：

上图中主要有如下所述三个主要组件：

• Shard:

用于存储实际的数据块，实际生产环境中一个shard server角色可由几台机器组个一个relica set承担，防止主机单点故障

• Config Server:

mongod实例，存储了整个 ClusterMetadata，其中包括 chunk信息。4.0版本以后要求最低3个副本集

• Query Routers:

前端路由，客户端由此接入，且让整个集群看上去像单一数据库，前端应用可以透明使用。

开始搭建

准备三台机器，这里用的三台虚拟机

系统： CentOS-7.2

软件： MongDB-4.2.7

role/port	192.168.0.41	192.168.0.42	192.168.0.43
config	30000	30000	30000
mongos	30010	30010	30010
shard1	27001	27001	27001
shard2	27002	27002	27002
shard3	27003	27003	27003

官网新版本配置文件说明：
https://docs.mongodb.com/manual/reference/configuration-options/

config集群

1. 创建文件及文件夹

[root@localhost /]# mkdir -p /usr/local/mongodb/data/config

[root@localhost /]# mkdir -p /usr/local/mongodb/log/config
[root@localhost /]# touch /usr/local/mongodb/log/config.log

2. 创建config.cfg

[root@localhost /]# cat /usr/local/mongodb/conf/config.cfg

systemLog:
  destination: file
  logAppend: true
  path: /usr/local/mongodb/log/config.log


storage:
  dbPath: /usr/local/mongodb/data/config
  journal:
    enabled: true
#  engine:
#  wiredTiger:


processManagement:
  fork: true  # fork and run in background
  #pidFilePath: /var/run/mongodb/config1.pid  # location of pidfile
  timeZoneInfo: /usr/share/zoneinfo

# network interfaces
net:
  port: 30000
  bindIp: 0.0.0.0


#security:
#  authorization: enabled
#  keyFile: /usr/local/mongodb/conf/mongodb.keyfile

#operationProfiling:

replication:
  replSetName: configs

sharding:
  clusterRole: configsvr

## Enterprise-Only Options

#auditLog:

#snmp:

3. 启动config

[root@localhost mongodb]# mongod -f /usr/local/mongodb/conf/config.cfg 
about to fork child process, waiting until server is ready for connections.
forked process: 223
child process started successfully, parent exiting

ps: 30000端口成功监听

另外2台的操作同上

4. 创建config集群

任意一台机器上操作

[root@localhost mongodb]# mongo --port 30000
>  rs.initiate(
  {
    _id: "configs",
    configsvr: true,
    members: [
      { _id : 0, host : "192.168.0.41:30000" },
      { _id : 1, host : "192.168.0.42:30000" },
      { _id : 2, host : "192.168.0.43:30000" },
    ]
  }
)
	"ok" : 1,
	"$gleStats" : {
		"lastOpTime" : Timestamp(1591233702, 1),
		"electionId" : ObjectId("000000000000000000000000")
	},
	"lastCommittedOpTime" : Timestamp(0, 0),
	"$clusterTime" : {
		"clusterTime" : Timestamp(1591233702, 1),
		"signature" : {
			"hash" : BinData(0,"AAAAAAAAAAAAAAAAAAAAAAAAAAA="),
			"keyId" : NumberLong(0)
		}
	},
	"operationTime" : Timestamp(1591233702, 1)
}

ps: 初始化id必须要和config.cfg内定义的replSetName相同才能成功

rs.status() 查看集群状态

shard分片集群

1. 创建文件及文件夹

[root@localhost /]# mkdir -p /usr/local/mongodb/data/shard{1..3}

[root@localhost /]# mkdir -p /usr/local/mongodb/log/shard{1..3}
[root@localhost /]# touch /usr/local/mongodb/log/shard{1..3}/shard.log

2. 创建shard1.cfg，shard2.cfg，shard3.cfg

[root@localhost /]# cat /usr/local/mongodb/conf/shard1.cfg

systemLog:
  destination: file
  logAppend: true
  path: /usr/local/mongodb/log/shard1/shard.log


storage:
  dbPath: /usr/local/mongodb/data/shard1
  journal:
    enabled: true
#  engine:
#  wiredTiger:

processManagement:
  fork: true  # fork and run in background
  #pidFilePath: /var/run/mongodb/shard1.pid  # location of pidfile
  timeZoneInfo: /usr/share/zoneinfo


net:
  port: 27001
  bindIp: 0.0.0.0  


#security:
#  authorization: enabled
#  keyFile: /usr/local/mongodb/conf/mongodb.keyfile

#operationProfiling:

replication:
  replSetName: shard1

sharding:
  clusterRole: shardsvr
## Enterprise-Only Options

#auditLog:

#snmp:

[root@localhost /]# cat /usr/local/mongodb/conf/shard2.cfg

systemLog:
  destination: file
  logAppend: true
  path: /usr/local/mongodb/log/shard2/shard.log


storage:
  dbPath: /usr/local/mongodb/data/shard2
  journal:
    enabled: true
#  engine:
#  wiredTiger:

processManagement:
  fork: true  # fork and run in background
  #pidFilePath: /var/run/mongodb/shard1.pid  # location of pidfile
  timeZoneInfo: /usr/share/zoneinfo


net:
  port: 27002
  bindIp: 0.0.0.0  


#security:

#operationProfiling:

replication:
  replSetName: shard2

sharding:
  clusterRole: shardsvr
## Enterprise-Only Options

#auditLog:

#snmp:

shard3.cfg参考shard2.cfg

3. 启动shard

[root@localhost mongodb]# mongod -f /usr/local/mongodb/conf/shard1.cfg

[root@localhost mongodb]# mongod -f /usr/local/mongodb/conf/shard2.cfg

[root@localhost mongodb]# mongod -f /usr/local/mongodb/conf/shard3.cfg

另外2台的操作同上

4. 创建shard集群

任意一台机器上执行

[root@localhost mongodb]# mongo --port 27001
>  rs.initiate(
  {
    _id: "shard1",
    members: [
      { _id : 0, host : "192.168.0.41:27001" },
      { _id : 1, host : "192.168.0.42:27001" },
      { _id : 2, host : "192.168.0.43:27001" },
    ]
  }
)

[root@localhost mongodb]# mongo --port 27002
>  rs.initiate(
  {
    _id: "shard2",
    members: [
      { _id : 0, host : "192.168.0.41:27002" },
      { _id : 1, host : "192.168.0.42:27002" },
      { _id : 2, host : "192.168.0.43:27002" },
    ]
  }
)

[root@localhost mongodb]# mongo --port 27003
>  rs.initiate(
  {
    _id: "shard3",
    members: [
      { _id : 0, host : "192.168.0.41:27003" },
      { _id : 1, host : "192.168.0.42:27003" },
      { _id : 2, host : "192.168.0.43:27003" },
    ]
  }
)

目前已经创建了shard1，shard2，shard3三个具有三副本的复制集，后续还会创建分片集群

mongos服务

1. 准备文件

monogs作为集群访问的入口，是不存储数据的，只需要创建日志文件。每个服务器上启动一个mongos，提高可用性。

[root@localhost mongodb]# touch /usr/local/mongodb/log/mongos.log

2. 创建mongos.cfg

[root@localhost /]# cat /usr/local/mongodb/conf/mongos.cfg
systemLog:
  destination: file
  logAppend: true
  path: /usr/local/mongodb/log/mongos.log



processManagement:
  fork: true  # fork and run in background
  #pidFilePath: /var/run/mongodb/mongos1.pid  # location of pidfile
  timeZoneInfo: /usr/share/zoneinfo

net:
  port: 30010
  bindIp: 0.0.0.0  


#security:

#operationProfiling:

#eplication:

sharding:
  # 配置哪些ip 需要添加
  #configDB: configs/192.168.0.153:30000,192.168.0.216:30000,192.168.0.218:30000
  configDB: configs/192.168.0.41:30000,192.168.0.42:30000,192.168.0.43:30000

# clusterRole: configsvr
## Enterprise-Only Options

#auditLog:

#snmp:

ps: configDB指向三个config服务的地址和端口

3. 启动mongos

[root@localhost mongodb]# mongos -f /usr/local/mongodb/conf/mongos.cfg

ps：mongos启动不是使用mongod

每台机器都要启动一个mongos服务

为各副本集添加秘钥认证

1. 生成秘钥文件
   任意一台机器操作

[root@localhost mongodb]# openssl rand 700 -base64 > /usr/local/mongodb/conf/mongodb.keyfile
[root@localhost mongodb]# chmod 600 /usr/local/mongodb/conf/mongodb.keyfile

2. 将秘钥分发到其他服务器

[root@localhost mongodb]# scp /usr/local/mongodb/conf/mongodb.keyfile root@192.168.0.42:/usr/local/mongodb/conf
[root@localhost mongodb]# scp /usr/local/mongodb/conf/mongodb.keyfile root@192.168.0.43:/usr/local/mongodb/conf

3. 修改配置文件

config.cfg，shard.cfg，mongos.cfg三类文件新增以下内容

security:
   keyFile: /usr/local/mongodb/conf/mongodb.keyfile

创建用于连接的用户

1. 命令行创建用户

mongos> use admin
switched to db admin
mongos> db.createUser({user:"mongouser",pwd:"mongopwd",roles:["root"]})
mongos> db.auth("mongouser","mongopwd")

mongos> use config
switched to db config
mongos> db.createUser({user:"mongouser",pwd:"mongopwd",roles:["root"]})
mongos> db.auth("mongouser","mongopwd")

2. 修改配置文件
   config.cfg，shard.cfg两类文件新增以下内容

security:
  authorization: enabled

3. 重启服务mongo服务
4. 客户端连接
5. 用户管理常用命令

• show users // 查看当前库下的用户

• db.dropUser(‘testadmin’) // 删除用户

• db.updateUser(‘admin’, {pwd: ‘654321’}) // 修改用户密码

• db.auth(‘admin’, ‘654321’) // 密码认证

可能遇到的问题

1. 启用认证后，遇到"command replSetGetStatus requires authentication"

configs:SECONDARY> rs.status()
{
	"operationTime" : Timestamp(1591253807, 2),
	"ok" : 0,
	"errmsg" : "command replSetGetStatus requires authentication",
	"code" : 13,
	"codeName" : "Unauthorized",
	"lastCommittedOpTime" : Timestamp(1591253807, 2),
	"$clusterTime" : {
		"clusterTime" : Timestamp(1591253807, 2),
		"signature" : {
			"hash" : BinData(0,"QCmeAVDoq7jZzwHfPYNn/mU4eS8="),
			"keyId" : NumberLong("6834296761922617360")
		}
	}
}
configs:SECONDARY> use admin
switched to db admin
configs:SECONDARY> db.auth('mongouser','mongopwd')
1

2. 启动mongos实例一直无响应

• 可能是启动顺序，需要启动config实例后操作
• 认证秘钥问题

使用实例

1. 连接mongos

任意一台上连接

[root@localhost mongodb]# mongo --port 30010

2. 添加分片

mongos> use admin
switched to db admin
mongos> sh.addShard("shard1/192.168.0.41:27001,192.168.0.42:27001,192.168.0.43:27001")
{
	"shardAdded" : "shard1",
	"ok" : 1,
	"operationTime" : Timestamp(1591241739, 4),
	"$clusterTime" : {
		"clusterTime" : Timestamp(1591241739, 4),
		"signature" : {
			"hash" : BinData(0,"AAAAAAAAAAAAAAAAAAAAAAAAAAA="),
			"keyId" : NumberLong(0)
		}
	}
}
mongos> sh.addShard("shard2/192.168.0.41:27002,192.168.0.42:27002,192.168.0.43:27002")
{
	"shardAdded" : "shard2",
	"ok" : 1,
	"operationTime" : Timestamp(1591241810, 2),
	"$clusterTime" : {
		"clusterTime" : Timestamp(1591241810, 2),
		"signature" : {
			"hash" : BinData(0,"AAAAAAAAAAAAAAAAAAAAAAAAAAA="),
			"keyId" : NumberLong(0)
		}
	}
}
mongos> sh.addShard("shard3/192.168.0.41:27003,192.168.0.42:27003,192.168.0.43:27003")
{
	"shardAdded" : "shard3",
	"ok" : 1,
	"operationTime" : Timestamp(1591241833, 6),
	"$clusterTime" : {
		"clusterTime" : Timestamp(1591241833, 6),
		"signature" : {
			"hash" : BinData(0,"AAAAAAAAAAAAAAAAAAAAAAAAAAA="),
			"keyId" : NumberLong(0)
		}
	}
}

• 查看分片状态

  sh.status()

• 移除分片

  db.runCommand({removeShard : “shard1”})

3. 开启数据库分片（创建数据库）

mongos> use admin
mongos> sh.enableSharding("notice_set")

4. 指定数据库表中的字段key为分片键，并对其使用哈希分片策略

mongos> sh.shardCollection("notice_set.notice",{"msgid": "hashed"})

5. 添加测试数据

mongos> use notice_set
mongos> for (i = 1; i <= 10; i++) db.notice.insert({"msgid":i})

可以查看每个分片的数据量等于10

连接集群的方式

1. 单机连接

选任一mongos直接连接，如果该mongos不可用，服务也无法继续使用

mongos --host --port 

2. 集群连接
   配置上所有mongos，某一个mongos不可用，服务将继续

mongodb://[username:password@]host1[:port1][,host2[:port2],...[,hostN[:portN]]][/[database][?options]]

• mongodb:// 前缀，代表这是一个Connection String
• username:password@ 如果启用了鉴权，需要指定用户密码
• hostX:portX 多个 mongos 的地址列表
• /database 鉴权时，用户帐号所属的数据库
• ?options 指定额外的连接选项