mongodb分布式集群架构(转)

一、关于mongodb

 

MongoDB 是一个基于分布式文件存储的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。 MongoDB是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。他支持的数据结构非常松散,是类似 jsonbjson格式,因此可以存储比较复杂的数据类型。Mongo最大的特点是他支持的查询语言非常强大,其语法有点类似于面向对象的查询语言,几乎可以实现类似关系数据库单表查询的绝大部分功能,而且还支持对数据建立索引。

 

二、mongodb分布式应用原理

 

MongoDB集群包括一定数量的mongod(分片存储数据)、mongos(路由处理)、config server(配置节点)、clients(客户端)、arbiter(仲裁节点:为了选举某个分片存储数据节点那台为主节点)。

 



 

 

1.  1shards:一个shard为一组mongod,通常一组为两台,主从或互为主从,这一组mongod中的数据时相同的,具体可见《mongodb分布式之数据复制》。数据分割按有序分割方式,每个分片上的数据为某一范围的数据块,故可支持指定分片的范围查询,这同googleBigTable 类似。数据块有指定的最大容量,一旦某个数据块的容量增长到最大容量时,这个数据块会切分成为两块;当分片的数据过多时,数据块将被迁移到系统的其他分片中。另外,新的分片加入时,数据块也会迁移。

2.  2mongos:可以有多个,相当于一个控制中心,负责路由和协调操作,使得集群像一个整体的系统。mongos可以运行在任何一台服务器上,有些选择放在shards服务器上,也有放在client 服务器上的。mongos启动时需要从config servers上获取基本信息,然后接受client端的请求,路由到shards服务器上,然后整理返回的结果发回给client服务器。

3.  3config server:存储集群的信息,包括分片和块数据信息。主要存储块数据信息,每个config server上都有一份所有块数据信息的拷贝,以保证每台config server上的数据的一致性。

4.  4shard key:为了分割数据集,需要制定分片key的格式,类似于用于索引的key格式,通常由一个或多个字段组成以分发数据,比如:

5.  { name : 1 }

6.  { _id : 1 }

7.  { lastname : 1, firstname : 1 }

8.  { tag : 1, timestamp : -1 }

9.  mongoDB的分片为有序存储(1为升序,-1为降序)shard key相邻的数据通常会存在同一台服务

10.(数据块)上。

三、mongodb分布式部署方式

服务器部署可以有多种方式。首先,每台config servermongosmongod都可以是单独的服务器,但这样会导致某些服务器的浪费,比如config server。下图为物理机共享的集群部署,不需要额外加机器。

 



 

 

当 然也有其他的方案,比如把mongos部署在所有的mongodserver1-6)上,又或者在每个运用服务器(server7)上部署 mongos。这样部署有个好处在于,appservermongos之间的通信建立在localhost interface上,减少了通信成本。当然,此乃官方说法,但本人有想法,尽管减少了appservermongos之间的通信成本,但mongos mongod之间的通信成本却增加了,而且把mongos部署在appserver上并不是很利于sa管理,mongoDB应该是一个相对独立的系统, 与应用的耦合度应该尽量降到最低,万一应用想要换数据库,也能多少减少些工作量。

 

四、mongodb分布式的安装

1、下载

1.  wget http://fastdl.mongodb.org/linux/mongodb-linux-x86_64-2.0.4.tgz

2、安装

1.  tar zxvf mongodb-linux-2.0.4.tgz

2.  cp -fr mongodb-linux-*2.0.4/* /data/mongodb/

3.  mkdir -p /data/mongodb/data/                                     #创建数据存储目录

4.  mkdir -p /data/mongodb/log/                                      #创建日志存储目录

5.  mkdir -p /data/mongodb/config/                                   #创建配置存储目录

6.  mkdir -p /data/mongodb/arbiter/                                  #创建仲裁节点存储目录

3、单机模式以及个参数说明

1.  mongod --fork --bind_ip 127.0.0.1 --port 11811 --dbpath /data0/mongodb/data --directoryperdb --logpath /data0/mongodb/log/db1.log --logappend  --nohttpinterface

2.  netstat -ntlp|grep mongod

 

1.   简单的参数说明:

2.  –logpath 日志文件路径

3.  –master 指定为主机器

4.  –slave 指定为从机器

5.  –source 指定主机器的IP地址

6.  –pologSize 指定日志文件大小不超过64M.因为resync是非常操作量大且耗时,最好通过设置一个足够大的oplogSize来避免resync(默认的 oplog大小是空闲磁盘大小的5%)

7.  –logappend 日志文件末尾添加

8.  –port 启用端口号

9.  –fork 在后台运行

10.–only 指定只复制哪一个数据库

11.–slavedelay 指从复制检测的时间间隔

12.–auth 是否需要验证权限登录(用户名和密码)

13.–noauth 不需要验证权限登录(用户名和密码)

五、集群模式mongos,mongod,configsvr

1.  1.Shard分片--

2.  第一组分片  

3.  192.168.200.226:    

4.  /data/mongodb/bin/mongod --replSet rep1 --fork --port 11813 --maxConns 65535 --dbpath /data/mongodb/data --directoryperdb --logpath /data/mongodb/log/db.log --logappend --nohttpinterface

5.  #启动rep1分片的一个数据节点

6.  /data/mongodb/bin/mongos --configdb 192.168.201.226:11812 --port 11811 --fork --chunkSize 256 --logpath /data/mongodb/log/ms.log   #启动路由节点,读取201.226上的配置节点的配置文件,(在配置节点启动后启动)

7.  /data/mongodb/bin/mongod --replSet rep1 --fork --port 11814 --dbpath /data/mongodb/arbiter --directoryperdb --logpath /data/mongodb/log/arbiter.log --logappend --nohttpinterface

8.  #启动分片的仲裁节点

9.  192.168.201.226:    

10./data/mongodb/bin/mongod --replSet rep1 --fork --port 11813 --maxConns 65535 --dbpath /data/mongodb/data --directoryperdb --logpath /data/mongodb/log/db.log --logappend --nohttpinterface

11.#启动rep1分片的第二个数据节点

12./data/mongodb/bin/mongos --configdb 192.168.201.226:11812 --port 11811 --fork --chunkSize 256 --logpath /data/mongodb/log/ms.log

13. #启动第二个路由节点 (在配置节点启动后启动)

14.2.ConfigServer---

15.    #启动config server  

16.    192.168.201.226:    

17.        /data/mongodb/bin/mongod --configsvr --dbpath /data/mongodb/config --port 11812 --fork --logpath /data/mongodb/log/mc.log

18.#启动配置节点,注意配置节点应该优先启动,不然路由节点读取不到配置节点信息则会启动失败。

19.3.Mongos路由---

20.    #启动mongos,指定config server, chunkSize 256M

21.    192.168.201.226:

22.        /data/mongodb/bin/mongos --configdb 192.168.201.226:11812 --port 11811 --fork --chunkSize 256 --logpath /data/mongodb/log/ms.log

23.#启动路由节点

由于机器有限,只配置了一个shard分片,该分片里有2个节点,新增加分片只需对应改replSet 名称即可。

1.  4.配置replSet: 连接任一mongod members

2.  mongo 192.168.201.226:11813

3.  config = {_id: 'rep1', members: [

4.  {_id: 0, host: '192.168.200.226:11813', priority: 2},                     #priority 为定义优先级,默认为1,高优先级会被认为是主节点优先启用。

5.  {_id: 1, host: '192.168.201.226:11813'},

6.  {_id: 2, host: '192.168.200.226:11814', arbiterOnly: true}]

7.  }

8.      rs.initiate(config);

9.      rs.status()

 

1.  5.连接mongos增加shard 80G

2.      mongo 192.168.201.226:11811/admin

3.      show dbs

4.      use admin

5.      db.runCommand({addshard:'rep1/192.168.201.226:11813,192.168.200.226:11813',maxsize:81920})

6.      db.runCommand({listshards:1})

 

1.  6.连接mongos增加创建test库和c1集合,并测试

2.      mongo 192.168.201.226:11811/admin

3.      db.runCommand({enablesharding:'test'})

4.      printShardingStatus()

5.      db.runCommand({shardcollection:'test.auto_increment_id', key:{_id:1}, unique : true})

6.      db.runCommand({shardcollection:'test.c1', key:{_id:1}, unique : true})

7.      for (var i = 1; i <= 100; i++)db.c1.save({id:i,value1:"1234567890",value2:"1234567890",value3:"1234567890",value4:"1234567890"})

8.      db.c1.stats()

9.  db.createCollection("cap_coll", {capped:true, size:100000, max:100});

10.db.mycoll.validate();

11. 

12.7.检查: db.printCollectionStats()

13. 

14.8.管理: mongo 127.0.0.1:11811

15.show dbs

16.use admin

17.show collections

18.db.serverStatus()

19.db.shutdownServer()

20.exit

 

1.  9.索引:

2.  db.product_data.ensureIndex({data_id: 1}, {unique: true,dropDups: true}); #创建索引

3.  db.product_data.dropIndexes();                                            #删除索引

 

至此,mongodb的分布式架构就架起来了,并且通过测试和log的分析,可看服务是否正常,下面就需要php客户端的支持,和程序的运行,之后加到监控里,就可以在线上部署使用了。

 

六、PHPMongoDB拓展的安装

1.  # wget http://pecl.php.net/get/mongo-1.2.6.tgz    

2.  # tar zxvf mongo-1.2.6.tgz    

3.  # cd mongo-1.2.6    

4.  # /usr/local/php5/bin/phpize    

5.  # ./configure --enable-mongo=share--with-php-config=/usr/local/php5/bin/php-config    

6.  # make && make installl  

PHP支持mongodb

1.  将生成的拓展mongo.so文件添加到php.ini中,重启php-fpm,或者apache,然后查看下phpinfo()

2.  请编辑php.ini文件。添加如下一行:

3.  extension=mongo.so

4.  然后用php输出:phpinfo,就可以看到mongo的信息了。。这样就说明你安装成功的了!

 

七、监控配置

     早在去年已经出现MongoDBRedisCacti模板,使用它,你可以对你的MongoDBRedis服务进行流量监控。cacti的模板一直在更新,若企业已经用到nosql这种非关系数据库如mongodbredis。可按照以下教程,对mongodbredis进行监控。

该模板可以监控以下资源:

mongodb



 

redis



 

 

一、下载模板:

wget http://mysql-cacti-templates.googlecode.com/files/better-cacti-templates-1.1.8.tar.gz

二、配置ssh公私钥无需密码登录:

因为cacti监控mongodb是需要登录到mongodb的服务端运行mongo的状态获取命令,所以需要ssh连接登录。

所以需要配置非交互式帐号密码登录。这里采用公私钥模式。

先在监控服务器生成一对公私钥。

 

1.  ssh-keygen ##如果是root用户,生成的默认目录为/root/.ssh2个文件id_rsa(公钥) id_rsa.pub(私钥)

2.  cd /root/.ssh/ && chmod 600 id_rsa*     把这2个文件修改权限,为600

3.  ssh-copy-id -i /root/.ssh/id_rsa root@192.168.200.1  #加被监控节点公私钥认证

id_rsa.pub复制出来,放到被监控机器上,然后公钥的内容追加到需要被监控的主机也就是mongodbredis的服务端。追加到.ssh/authorized_keys

然后用ssh连接你所安装mongodb或者redis的服务端,如果不需输密码连接上。则正常。下面就可以开始添加监控文件了。

三、配置监控脚本:

 

1.  mongodbredis的监控所需到的是你下载目录中的better-cacti-templates-1.1.8\scripts下的

2.  ss_get_by_ssh.php 这个脚本 这个脚本需要放在cacti的服务端

3.  如果你cacti是装到/var/www/html/cacti/目录下。

4.  把该文件放在其下面的scripts目录下。别忘了看下权限。要有执行权限。

然后修改该文件。主要修改一下选项,大概在40行。

1.  # ============================================================================

2.  $ssh_user   = 'root';                          # SSH username

3.  $ssh_port   = 22;                               # SSH port

4.  $ssh_iden   = '-i /root/.ssh/id_rsa';     # SSH identity

5.  ##修改根据你的配置,你的ssh连接用户,还有认证私钥的位置。

大该在50行,还可以修改其默认的去探测的端口(如果redis不是正常默认端口启动需要修改这些)。

1.  $memcache_port = 11211;                   # Which port memcached listens on

2.  $redis_port    = 6379;                    # Which port redis listens on

如果是mongodb不是正常端口启动,则需要这样修改。找到以下字段,添加红色字段,这里注意mongo这个命令一定要找对。

1.  function mongodb_cmdline ( $options ) {

2.  return “echo \”db._adminCommand({serverStatus:1, repl:1})\” | /usr/local/mongo/mongodb/bin/mongo –port 10000″;

3.  }

配置完后保存退出。

可以先用测试命令测一下。语法如下:

1.  php /var/www/html/scripts/ss_get_by_ssh.php --type mongodb --host 192.168.200.1 --items c,de,df,dg,dh,di,dj,dk,dl,dm,dn,do,dp,dq,dr,ds,dt,du

如果有数据输出。则表示正常。

 

四、在cacti里添加mongodbredis模板:

4.1 模板导入



 

模板目录为better-cacti-templates-1.1.8\templates

4.2 导入后对被监控机添加模板:




 
 

4.3 添加后为其绘图:



 

 

五:实际效果测试:

 



 

 

此文凝聚笔者不少心血请尊重笔者劳动,转载请注明出处。
http://freeze.blog.51cto.com/

喜欢linux,或者有问题还可以来QQ89342115交流。

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值