使用MONGODB 集群的OPLOG 日志进行数据恢复

原创 2015年07月07日 11:57:42

(以下方法只能恢复部分数据,因为OPLOG 表并没有保存所有的同步日志,是有大小限制的)




因为oplog 表(collection 后面为了习惯,就叫表了)没有索引,而我却要选择我需要恢复的某个表的数据。
所以先把各个分片中的oplog表分别导出到另外一台服务器进行处理:

1.备份出来:
./mongodump --port 28011 -d local -c oplog.rs  -o  /opt/backup/0706local/

2.恢复到另外一台单节点MONGODB服务器

mongorestore --port 28011 -d temp_local -c shard1_oplog  --dir /opt/backup/0706local/local/oplog.rs.bson

......
mongorestore --port 28012 -d temp_local -c shard4_oplog  --dir /opt/backup/0706local/local/oplog.rs.bson

有多少个分片,就有多少个新建立的表。

3.建立索引,以方便查询数据:
> db.shard4_oplog.createIndex({ns:1,op:1})
{
    "createdCollectionAutomatically" : false,
    "numIndexesBefore" : 0,
    "numIndexesAfter" : 1,
    "ok" : 1
}

4.本来想先把没用的数据删除的,但因为oplog原来是个capped 表,无法删除数据,只好做罢,就这样处理吧。

> db.shard4_oplog.remove({ns:"ds.tb_monitor",op:{$ne:'i'}})
WriteResult({
    "nRemoved" : 0,
    "writeError" : {
        "code" : 20,
        "errmsg" : "cannot remove from a capped collection: oplog.shard4_oplog"
    }
})


5.编写代码,对每行数据查询到后,添加到一个新的表:

关于:forEach:

Step 2: Create backup of 2.6 admin.system.users collection. Copy all documents in the
admin.system.users(page 286) collection to theadmin.system.new_userscollection:
db.getSiblingDB("admin").system.users.find().forEach( function(userDoc) {
status = db.getSiblingDB("admin").system.new_users.save( userDoc );
if (status.hasWriteError()) {
print(status.writeError);
}
}
);

使用类似方法,写了一个把日志数据保存到另外一个表的功能:
(把表名为要恢复的表名,操作类型为'i'---新数据插入 的数据取出,保存到另外一个新表)

db.shard3_oplog.find({ns:"ds.tb_monitor",op:'i'}).forEach(function(res_data){
obj_doc = res_data["o"]; #取出oplog中插入的JSON对象
status = db.tb_monitor.save( obj_doc ); #保存到新表中。
if (status.hasWriteError()) {
print(status.writeError);
}
}
)


6.再把这个新建立的表,导出,再恢复到集群中为一个新表,再使用5方法,保存到源表中。

./mongodump  -d local -c shard1_oplog  -o  /opt/backup/0706local/

mongorestore --port 28000 -d temp_local -c new_collection  --dir /opt/backup/0706local/local/shard1_oplog.bson


db.new_collection.find().forEach(function(res_data){
status = db.tb_monitor.save( res_data );
if (status.hasWriteError()) {
print(status.writeError);
}
}
)

版权声明:本文为博主原创文章,未经博主允许不得转载。

相关文章推荐

mongodb副本集备份时需要oplog吗?

作为一个合格的dba((⊙o⊙)…我是菜鸟),备份应该是重中之重,就像‘兵马未动粮草先行’,完善的备份可以救你一命啊,切记,切记!...
  • xdstuhq
  • xdstuhq
  • 2016年11月02日 10:31
  • 466

MongoDB数据库的备份,恢复与迁移,回滚

MongoDB是怎么实现数据的备份与恢复,故障切换以及数据库服务器的负载均衡等功能的呢?本文我们就介绍这些知识。 备份与恢复 在创建MongoDB服务的时候,通过--dbpath指定目录就是存放m...

MongoDB 增量备份方案

MongoDB本身不支持增量备份,所以这里介绍几种我找到的,或者是自己使用代码实现的方法: 我的环境:集群环境, 如果是分片集群,只好各【分片集群】和【配置服务器集群】分开备份处理,因为使用了Oplo...

看mongodb.log日志,发现日志里有以下语句:

看mongodb.log日志,发现日志里有以下语句: .............. Mon Mar  317:46:37 [conn148] Assertion: 10295:getFile():...

mongodb日志以及异常关机后的恢复

首先介绍一下mongodb的日志模块, Log:它主要负责用户日志文件,这和我们普通系统的日志系统没有什么区别,作用也就是记录系统的一些重要流程,然后持久化到log文件。这个log文件可以通过系...

MongoDB:Replica Set 之操作日志 Oplog

转载地址:http://francs3.blog.163.com/blog/static/4057672720121133328120/  之前的blog  学习了 MongoDB 主从搭建,以...

MongoDB oplog剖析

MongoDB 的Replication是通过一个日志来存储写操作的,这个日志就叫做oplog。journal是Mongodb中的redo log,而Oplog则是负责复制的binlog(对应Mysq...

MongoDB误操作恢复测试

前序: 由于无论在什么架构下,都会不可避免的出现人为误操作的事故出现,本文就对可能出现的误操作问题的解决办法进行测试,这些都是本人想到的解决办法并加以测试实验 架构:Replica set (1Pri...

MongoDB修改oplog size

> oplog简介: oplog:operations log的简写,存储在一个特殊的数据库中(local),oplog就存储在其中的oplog.$main集合里面,这个集合是一个固定集合,新的记录...
  • shmnh
  • shmnh
  • 2014年12月16日 03:49
  • 1604

MongoDB——oplog

mongoDB oplog 说明 ts:8字节的时间戳,由4字节unix timestamp + 4字节自增计数表示。这个值很重要,在选举(如master宕机时)新primary时,会选择ts最大的...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:使用MONGODB 集群的OPLOG 日志进行数据恢复
举报原因:
原因补充:

(最多只允许输入30个字)