MongoDB集群之分片

MongoDB集群帮助手册
一、Mongodb集群架构简介

这是一种可以水平扩展的模式,在数据量很大时特给力,实际大规模应用一般会采用这种架构去构建monodb系统。

要构建一个 MongoDB Sharding Cluster,需要三种角色:

l Shard Server: mongod 实例,用于存储实际的数据块,实际生产环境中一个shard
server角色可由几台机器组个一个relica set承担,防止主机单点故障 l Config Server: mongod
实例,存储了整个 Cluster Metadata,其中包括 chunk 信息。 l Route Server: mongos
实例,前端路由,客户端由此接入,且让整个集群看上去像单一数据库,前端应用可以透明使用。

实例

  1. 分别在3台机器运行一个mongod实例(称为mongod shard11,mongod shard12,mongod shard13)组织replica set1,作为cluster的shard1
  2. 分别在3台机器运行一个mongod实例(称为mongod shard21,mongod shard22,mongod shard23)组织replica set2,作为cluster的shard2
  3. 每台机器运行一个mongod实例,作为3个config server
  4. 每台机器运行一个mongs进程,用于客户端连接

主机

这里写图片描述

二、集群配置

  • 软件准备

        1. 安装monodb软件
    
cd /root
tar zxvf mongodb-linux-x86_64-1.6.2.tar
  • 创建数据目录

根据本例sharding架构图所示,在各台sever上创建shard数据文件目录
Server1:

cd /root/mongo
mkdir -p data/shard11
mkdir -p data/shard21

Server2:

cd /root/mongo
mkdir -p data/shard11
mkdir -p data/shard22

Server3:

cd /root/mongo
mkdir -p data/shard13
mkdir -p data/shard23
  • 配置relica sets(复制集)

配置shard1所用到的replica sets:

Server1:

cd /mongodb/bin
vim mongod11.conf  新建mongod启动配置文件,以下为内容
#日志目录
logpath=/root/mongo/log/shard11/mongo.log

#数据目录
dbpath=/root/mongo/data/shard11

#日志以追加方式添加
logappend=true

# 开启后台进程运行
fork = true

#端口
port =27017

#副本集名称
replSet=shard1

oplogSize=100

#修改数据目录存储模式,每个数据库的文件存储在DBPATH指定目录的不同的文件夹中
directoryperdb=true
./mongod --config mongod11.conf

Server2:

cd /mongodb/bin
vim mongod12.conf  新建mongod启动配置文件,以下为内容
#日志目录
logpath=/root/mongo/log/shard12/mongo.log

#数据目录
dbpath=/root/mongo/data/shard12

#日志以追加方式添加
logappend=true

# 开启后台进程运行
fork = true

#端口
port =27017

#副本集名称
replSet=shard1

oplogSize=100

#修改数据目录存储模式,每个数据库的文件存储在DBPATH指定目录的不同的文件夹中
directoryperdb=true
./mongod --config mongod12.conf

Server3:

cd /mongodb/bin
vim mongod13.conf  新建mongod启动配置文件,以下为内容
#日志目录
logpath=/root/mongo/log/shard13/mongo.log

#数据目录
dbpath=/root/mongo/data/shard13

#日志以追加方式添加
logappend=true

# 开启后台进程运行
fork = true

#端口
port =27017

#副本集名称
replSet=shard1

oplogSize=100

#修改数据目录存储模式,每个数据库的文件存储在DBPATH指定目录的不同的文件夹中
directoryperdb=true
./mongod --config mongod13.conf
  • 初始化replica set

用mongo连接其中一个mongod,执行:

> config = {_id: 'shard1', members: [
                          {_id: 0, host: '192.168.0.197:27017'},
                          {_id: 1, host: '192.168.0.198:27017'},
                          {_id: 2, host: '192.168.0.199:27017'}]
           }

> rs.initiate(config)

同样方法,配置shard2用到的replica sets:

  • 初始化replica set

用mongo连接其中一个mongod,执行:

> config = {_id: 'shard2', members: [
                          {_id: 0, host: '192.168.0.197:27018'},
                          {_id: 1, host: '192.168.0.198:27018'},
                          {_id: 2, host: '192.168.0.199:27018'}]
           }

> rs.initiate(config);

到此就配置好了二个replica sets,也就是准备好了二个shards

  • 配置三台config server

Server1:

mkdir -p /root/mongo/config  #config server也需要dbpath

cd /root/mongo/bin

vim /root/mongo/bin/config.conf #新建config server启动配置文件,以下为内容

configsvr=true

dbpath=/root/mongo/config

port=20000

logpath=/root/mongo/config/config.log

logappend=true

fork=true

Server2:

mkdir -p /root/mongo/config  #config server也需要dbpath

cd /root/mongo/bin

vim /root/mongo/bin/config.conf #新建config server启动配置文件,以下为内容

configsvr=true

dbpath=/root/mongo/config

port=20000

logpath=/root/mongo/config/config.log

logappend=true

fork=true

Server3:

mkdir -p /root/mongo/config  #config server也需要dbpath

cd /root/mongo/bin

vim /root/mongo/bin/config.conf #新建config server启动配置文件,以下为内容

configsvr=true

dbpath=/root/mongo/config

port=20000

logpath=/root/mongo/config/config.log

logappend=true

fork=true
  • 配置mongs

在server1,server2,server3上分别执行:

./mongos --configdb 192.168.0.197:20000,192.168.0.198:20000,192.168.0.199:20000 --port 30000 --chunkSize 5 --logpath /mongodb/data/mongos.log --logappend –fork 

mongs不需要dbpath

  • 添加复制集

连接到其中一个mongos进程,并切换到admin数据库做以下配置

  1. 连接到mongs,并切换到admin

    ./mongo 192.168.0.197:30000/admin
    
  2. 加入shards
    如里shard是单台服务器,用>db.runCommand( { addshard : “[:]” } )这样的命令加入,如果shard是replica sets,用replicaSetName/[:port][,serverhostname2[:port],…]这样的格式表示,例如本例执行:

>db.runCommand( { addshard : “shard1/192.168.0.197:27017,192.168.0.198:27017,192.168.0.199:27017″,name:”s1″,maxsize:20480} );
>db.runCommand( { addshard : “shard2/192.168.0.197:27018,192.168.0.198:27018,192.168.0.199:27018″,name:”s2″,maxsize:20480} );

注意:在添加第二个shard时,出现error:test database 已经存在的错误,这里用mongo命令连接到第二个replica set,用db.dropDatabase()命令把test数据库给删除然后就可加入

  1. 可选参数
    Name:用于指定每个shard的名字,不指定的话系统将自动分配

maxSize:指定各个shard可使用的最大磁盘空间,单位megabytes

  1. Listing shards
>db.runCommand( { listshards : 1 } )

如果列出了以上二个你加的shards,表示shards已经配置成功

  • 数据库分片以及Collecton分片

1、激活数据库分片
命令:

> db.runCommand( { enablesharding : “<dbname>” } );

通过执行以上命令,可以让数据库跨shard,如果不执行这步,数据库只会存放在一个shard,一旦激活数据库分片,数据库中不同的collection将被存放在不同的shard上,但一个collection仍旧存放在同一个shard上,要使单个collection也分片,还需单独对collection作些操作

2、Collection分片
要使单个collection也分片存储,需要给collection指定一个分片key,通过以下命令操作:

> db.runCommand( { shardcollection : “<namespace>”,key : <shardkeypatternobject> });

注:
a. 分片的collection系统会自动创建一个索引(也可用户提前创建好)

b. 分片的collection只能有一个在分片key上的唯一索引,其它唯一索引不被允许

One note: a sharded collection can have only one unique index, which must exist on the shard key. No other unique indexes can exist on the collection.
2.7分片collection例子

>db.runCommand( { shardcollection : “test.c1″,key : {id: 1} } )
>for (var i = 1; i <= 200003; i++) db.c1.save({id:i,value1:”1234567890″,value2:”1234567890″,value3:”1234567890″,value4:”1234567890″});
> db.c1.stats()(该命令可以查看表的存储状态)

以下待修改

  • Mongodb运行时添加节点

1、查看复制集节点配置

./mongo 192.168.1.197:27017

 rs0:PRIMARY> rs.conf();
{
        "_id" : "rs0",
        "version" : 3,
        "members" : [
                {
                        "_id" : 0,
                        "host" : "192.168.1.207:27017"
                },
                {
                        "_id" : 1,
                        "host" : "192.168.1.207:27018"
                },
        ]
}

2、添加节点
添加新的数据目录

mkdir –p /mongodb/data/shard4

启动节点

./mongod –shardsvr –replSet shard1 –port 27019 –dbpath  /mongodb/data/shard4 –oplogSize 100 –logpath /mongodb/data/shard4.log –logappend –fork
 连接主节点
mongo 192.168.1.207:27017
        rs0:PRIMARY> rs.isMaster();
{
        "setName" : "rs0",
        "ismaster" : true,
        "secondary" : false,
        "hosts" : [
                "192.168.1.207:27017",
                "192.168.1.207:27018"
        ],
        "primary" : "192.168.1.207:27017",
        "me" : "192.168.1.207:27018",
        "maxBsonObjectSize" : 16777216,
        "localTime" : ISODate("2013-05-22T13:04:36.501Z"),
        "ok" : 1
}

添加节点

 rs0:PRIMARY> rs.add("192.168.1.207:27019");
{ "ok" : 1 }

3、再次查看状态

 rs0:PRIMARY> rs.conf();
{
        "_id" : "rs0",
        "version" : 3,
        "members" : [
                {
                        "_id" : 0,
                        "host" : "192.168.1.207:27017"
                },
                {
                        "_id" : 1,
                        "host" : "192.168.1.207:27018"
                },
{
                        "_id" : 1,
                        "host" : "192.168.1.207:27019"
                },
]
}

添加成功

  • Mongodb运行时移除节点

其他步骤同上,其中只是将添加命令改为移除命令

rs0:PRIMARY> rs.remove("192.168.1.207:27019");

最后还需要关掉192.168.1.207:27019 该服务

Ps –ef | grep mongo 查找该服务

然后通过kill -9 pid 关闭服务。

  • Mongodb运行时移除分片

1、连接mongos节点 ./mongo 192.168.1.207:30000/admin

2、运行db.runCommand( { removeshard: “your_shard_name” } )
{ msg : “draining started successfully”, state: “started”, shard :”mongodb0”, ok : 1 }

3、查看状态,我们可以反复执行上面语句查看执行状态

db.runCommand( { removeshard: “your_shard_name” } ){ msg: “draining ongoing”, state: “ongoing”, remaining: { chunks: 42, dbs : 1 }, ok: 1

说明正在迁移中。

4、移除非shard数据

db.runCommand( { movePrimary: "myapp", to: "mongodb1" })

这次就不是立即返回了,需要很久,然后会返回如下:

{ "primary" : "mongodb1", "ok" : 1 }

5、面步骤都完成后,还需要再执行一次RemoveShard,清理残余数据。

db.runCommand( { removeshard: "mongodb0" } )

显示completed后,就可以安心的关闭mongod的进程了。

三、Mongodb问题以及解决方案

  • 问题一: mongodb启动成功但远程无法连接

问题描述:linux环境下mongodb启动充公但远程无法连接

解决方案:最可能的原因是调试 没有关闭iptables和selinux

只需要执行命令:/etc/init.d/iptables stop

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值