用mongodb 固定集合实现只保留固定数量的记录,自动淘汰老旧数据

在一个保存report记录的场景中,我们使用MongoDB进行数据存储

  example:

    db: report

    Collection: daily_report

 

   创建db:  use report;

   创建集合: db.createCollection("daily_report")

   我们的服务会根据用户配置进行每天N次自动的任务的执行,每个任务结束后会对应生成一个report, 我们将report存储于daily_report集合中。

   插入一条记录:  db.daily_report.insert({task_id:1,user:'zhangsan',result:‘SUCCESS’})   # 比如有这三个字段

    

  随着时间的增长,数据量也越来越多,但是实际上report在月底进行数据分析产生月报后就没有什么存在的意义了,但是mongo中daily_report的大小却在持续增长,占用了磁盘空间,我们只希望保存一定量的数据,让老旧的数据自动删除掉,其实可以通过代码来实现,思路就是每次插入前删除31天前的数据,或者根据task_id删除数据,只保留最近10000条记录,实际上并不需要这么做,因为Mongodb已经考虑到了这种情景,并提供了解决方式:

  我们上面只是创建了一个普通的集合,其实我们可以使用固定集合(Capped Collection)

  MongoDB 固定集合(Capped Collections)是性能出色且有着固定大小的集合,对于大小固定,我们可以想象其就像一个环形队列,当集合空间用完后,再插入的元素就会覆盖最初始的头部的元素!

  如图:

    

 

  创建一个固定集合,最大保存10000条记录:

    db.createCollection("daily_report",{capped:true,size:10000,max:10000})   

    capped:true 表示为一个固定的集合

    size 是整个集合空间大小,单位为【KB】

    max 是集合文档个数上线,单位是【个】

  将存在的集合转为固定文档: 

    db.runCommand({"convertToCapped":"daily_report",max:10000})

  

 

    

转载于:https://www.cnblogs.com/wangbaojun/p/11300754.html

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
MongoDB中的数据集合压缩指的是对集合中的数据进行压缩以减小存储空间的占用。MongoDB并不直接支持压缩单个数据集合,而是通过整个数据库的压缩来实现数据集合的压缩。 MongoDB中提供了两种常用的压缩方式:使用文件系统级别的压缩和使用压缩算法。 1. 文件系统级别的压缩:可以使用操作系统提供的文件系统级别压缩工具来对数据库存储路径下的文件进行压缩。例如,在Linux中可以使用gzip或者bzip2来压缩整个数据库目录下的文件。这种压缩方式通常需要停止数据库的写操作,压缩完成后再启动数据库。 2. 压缩算法:MongoDB 3.4版本引入了国内压缩算法zlib,通过在配置文件中设置压缩选项可以对整个数据库进行压缩。首先需要在mongod启动参数中开启压缩选项,然后在连接数据库时使用相应的连接参数启用压缩。这种压缩方式可以实现在线压缩,不需要停止数据库的写操作。 需要注意的是,压缩数据集合会带来一些压缩和解压缩的性能开销,特别是对于大型数据库来说。因此,在选择是否压缩数据集合时,需要综合考虑存储空间的节省和性能的需求。 综上所述,MongoDB并不直接支持对单个数据集合进行压缩。我们可以通过操作系统级别的压缩工具来压缩整个数据库目录下的文件,或者使用MongoDB提供的压缩算法对整个数据库进行压缩。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值