MongoDB分片(windows)

本文详细介绍了MongoDB的分片技术,包括分片概述、集群架构、环境准备、服务启动、配置、分片策略和测试方法。重点讲解了手动和自动分片的区别,以及如何在Windows环境下部署和管理分片集群。
摘要由CSDN通过智能技术生成

分片概述

分片(Sharding)技术是开发人员用来提高数据存储和数据读写吞吐量常用的技术之一。简单的来说,分片主要是将数据进行划分后,将它们分别存放于不同机器上的过程。通过使用分片可以实现降低单个机器的压力和处理更大的数据负载功能。分片与副本集主要区别在于,分片是每个节点存储数据的不同片段,而副本集是每个节点存储数据的相同副本。

分片概述

所有数据库都可以进行手动分片(Manual Sharding),因此,分片并不是MongoDB特有的。不同类型的数据均可以通过人为操作被分配到不同的数据库服务器上,然而,人工分片是需要编写相关代码来实现分片功能,并且还不容易维护(如集群中节点发生变动的情况)。MongoDB数据库可以实现自动分片,它内置了多种分片逻辑,使得MongoDB可以自动处理分片上数据的分布,也可以很容易的管理分片集群。
由于数据量太大,导致本地磁盘不足以存储的情况;为了提高数据库性能,从而将海量数据存储在内存中,导致单个MongoDB数据库内存不足的情况;若是出现数据请求量太大,导致单MongoDB机器不能满足读写数据的性能情况。若是出现这三种情况,我们就可以使用MongoDB的分片技术来解决。

分片集群架构

在MongoDB分片集群中,只有各组件间的协同工作,才可使得分片集群正常运行。在学习分片集群的操作之前,有必要先来学习一下分片集群架构。下面,通过一张图来介绍分片集群架构,具体如图所示。
在这里插入图片描述

部署分片集群

环境准备

分片节点ip:端口数据库路径日志路径
1shard1(主)localhost:4006D:\mongodb\shard1\dbD:\mongodb\shard1\log
1shard2(副)localhost:4007D:\mongodb\shard2\dbD:\mongodb\shard2\log
1shard3(主)localhost:4008D:\mongodb\shard3\dbD:\mongodb\shard3\log
1shard4(副)localhost:4009D:\mongodb\shard4\dbD:\mongodb\shard4\log

每一个分片都应该安装MongoDB实例,和前面的主从复制类似,也需要将bin文件复制到每个分片中,并且创建db文件以及log文件存放数据库数据和日志数据
在这里插入图片描述

启动分片服务

首先关闭之前打开的数据库服务

在这里插入图片描述

启动分片服务1

然后进入要分片的数据库bin目录中,启动cmd
在这里插入图片描述

mongod shardsvr replSet shard1 dbpath “D:\mongodb\shard1\db” port 4006logpath “D:\mongodb\shard1\log\shard1.log”

–shardsvr为分片声明

不要关闭此窗口,最小化即可
再次进入要分片的数据库bin目录中,启动cmd

 mongod shardsvr replSet shard1 dbpath "D:\mongodb\shard2\db" port 4007logpath "D:\mongodb\shard2\log\shard2.log"

启动分片服务2

进入要分片的数据库bin目录中,再再次启动cmd

>mongod shardsvr replSet shard2 dbpath "D:\mongodb\shard3\db" port 4008logpath "D:\mongodb\shard3\log\shard2.log"

进入要分片的数据库bin目录中,再再再次启动cmd

mongod shardsvr replSet shard2 dbpath "D:\mongodb\shard4\db" port 4009logpath "D:\mongodb\shard4\log\shard2.log"

进入分片一 初始化分片集

在这里插入图片描述

config1={ id:“shard1”,members:[
{ id:0,host:“localhost:4006”,priority:1},{ id:1,host:“localhost:4007”,priority:2}]}

在这里插入图片描述

进入分片二 初始化分片集

在这里插入图片描述

config2={ id:“shard2”,members:[
{ id:0,host:“localhost:4008”,priority:2},{ id:1,host:“localhost:4009”,priority:1}]}
rs.initiate(config2)

在这里插入图片描述

配置启动 Config Server

值得注意的是:在MongoDB 3版本后config服务必须配置为从副本集,所以直接用前面设置好了的副
本启动即可
老样子,每个文件夹添加data和log
在这里插入图片描述

config实例端口号数据库路径日志路径
config14002D:\mongodb\config1\dbD:\mongodb\config1\log
config24003D:\mongodb\config2\dbD:\mongodb\config2\log
config34004D:\mongodb\config3\dbD:\mongodb\config3\log

三个实例共三个cmd窗口

启动Config1:

进入要分片的数据库bin目录中

mongod configsvr replSet confset dbpath “D:\mongodb\config1\db” port
4002 logpath “D:\mongodb\config1\log\config1.log”

–configsvr 这里我们完全可以像启动普通mongodb服务一样启动,不需要添加—shardsvr和configsvr参数。因为这两个参数的作用就是改变启动端口的,所以我们自行指定了端口就可以。

三个实例共三个cmd窗口[一次性启动服务,不要关闭cmd窗口,最小化即可]

在这里插入图片描述

启动Config2:

mongod configsvr replSet confset dbpath “D:\mongodb\config2\db” port
4003 logpath “D:\mongodb\config1\log\config2.log”

在这里插入图片描述

启动Config3:

mongod configsvr replSet confset dbpath “D:\mongodb\config3\db” port
4004 logpath “D:\mongodb\config1\log\config3.log”

在这里插入图片描述
进入任何一个配置服务器的节点初始化配置服务器的群集
重新打开一个cmd,再bin目录下
在这里插入图片描述
配置设置

config3={ id:“confset”,configsvr:true,members:[
{ id:0,host:“localhost:4002”},{ id:1,host:“localhost:4003”},{ id:2,host:“localhost:4004”}]}
rs.initiate(config3)

在这里插入图片描述

配置路由服务器 Route Process

可以创建专门的文件夹存放日志
在这里插入图片描述
在进入要分片的数据库bin目录中启动cmd

mongos configdb confset/127.0.0.1:4002,127.0.0.1:4003,127.0.0.1:4003 logpath
“D:\mongodb\mongos\log\mongos.log” port 4000

mongos: mongos就是一个路由服务器,它会根据管理员设置的“片键”将数据分摊到自己管理的mongod集群,数据和片的对应关系以及相应的配置信息保存在"config服务器"上。
在这里插入图片描述

配置分片sharding,添加分片索引

bin目录下使用MongoDB Shell登录到mongos,添加Shard节点
在这里插入图片描述

sh.addShard(“shard1/localhost:4006,localhost:4007”)

在这里插入图片描述

sh.addShard(“shard2/localhost:4008,localhost:4009”)

在这里插入图片描述

查看分片集

db.getSiblingDB(“config”).shards.find()

在这里插入图片描述

mongodb分片测试

登入4000端口
在这里插入图片描述

指定要分片的数据库

sh.enableSharding(“test”)

在这里插入图片描述

指定数据库里需要分片的集合和片键,片键根据实际情况选择

sh.shardCollection(“test.c2”,{“id”:1})//1表示范围分片,“hashed”表示哈希分片

在这里插入图片描述
如果集合已经包含数据,则必须在分片集合之前创建一个支持分片键的索引,如果集合为空,则mongodb将创建索引。
向test库里的c2集合插入10000条数据

for (var i = 1; i<=10000;i++) db.c2.save({id:i,“test1”:“testval”+i})
#查看c2信息sh.status()

在这里插入图片描述
这里可能是数据量太少了,出来的结果并不是我想像的那样,根据官方说明,单调变化的键上进行分片,考虑使用哈希分片。

robo 3T查看分片集

robo 3T链接4000端口进行查看
在这里插入图片描述
也可以连接两个shard端口查看分片情况

最后

重新打开mongodb服务,即可像原来一样使用,但是数据存储方式和原来已经不一样了,变成了分布式的分片存储。

技术指导

tips:

电脑版本比较高,所以的cmd需要使用管理员身份运行
启动服务均为一次性服务,关闭cmd即为关闭服务,所以在未完成前,请勿关闭
实例均未添加至系统环境变量,请在bin目录下启动
虽然窗口很多,操作不太友好,但是在win系统下,还是多有耐心一点,linux会简单一些,详情看书上。

  • 18
    点赞
  • 31
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
MongoDB分片部署是通过将数据分布在多个服务器上来实现水平扩展的一种方式。下面是MongoDB分片部署的一般步骤: 1. 安装和配置MongoDB:在每个分片服务器上安装并配置MongoDB,确保它们可以相互通信。 2. 配置路由器(mongos):MongoDB分片集群需要一个路由器来处理客户端请求并将数据路由到正确的分片。在其中一个服务器上启动mongos进程,并将其配置为连接到分片服务器和配置服务器。 3. 配置配置服务器(config servers):配置服务器存储了整个集群的元数据信息,包括分片键和分片信息。至少需要3个配置服务器来保证高可用性。在每个配置服务器上启动mongod进程,并将它们组成一个复制集。 4. 创建分片集合(sharded collection):选择一个分片键,该键将用于将数据划分到不同的分片中。通过创建一个分片集合来启用分片功能,并指定要用作分片键的字段。 5. 添加分片(shard):将每个分片服务器添加到集群中。可以使用“sh.addShard()”命令将分片服务器添加到路由器中。 6. 启用分片集合:使用“sh.enableSharding()”命令启用分片集合,并指定要分片的数据库和集合。 7. 设定初始的分片数据位置(optional):可以使用“sh.shardCollection()”命令手动指定初始的分片数据位置。 完成上述步骤后,MongoDB集群就可以进行分片部署了。在添加更多数据时,MongoDB会自动将数据根据分片键路由到正确的分片上。 请注意,以上是一般的步骤,具体的配置可能会因环境和需求而有所不同。建议在进行分片部署前仔细阅读MongoDB官方文档,并根据实际情况进行调整。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值