• 用mongodb 固定集合实现只保留固定数量的记录,自动淘汰老旧数据


    在一个保存report记录的场景中,我们使用MongoDB进行数据存储

      example:

        db: report

        Collection: daily_report

       创建db:  use report;

       创建集合: db.createCollection("daily_report")

       我们的服务会根据用户配置进行每天N次自动的任务的执行,每个任务结束后会对应生成一个report, 我们将report存储于daily_report集合中。

       插入一条记录:  db.daily_report.insert({task_id:1,user:'zhangsan',result:‘SUCCESS’})   # 比如有这三个字段

        

      随着时间的增长,数据量也越来越多,但是实际上report在月底进行数据分析产生月报后就没有什么存在的意义了,但是mongo中daily_report的大小却在持续增长,占用了磁盘空间,我们只希望保存一定量的数据,让老旧的数据自动删除掉,其实可以通过代码来实现,思路就是每次插入前删除31天前的数据,或者根据task_id删除数据,只保留最近10000条记录,实际上并不需要这么做,因为Mongodb已经考虑到了这种情景,并提供了解决方式:

      我们上面只是创建了一个普通的集合,其实我们可以使用固定集合(Capped Collection)

      MongoDB 固定集合(Capped Collections)是性能出色且有着固定大小的集合,对于大小固定,我们可以想象其就像一个环形队列,当集合空间用完后,再插入的元素就会覆盖最初始的头部的元素!

      如图:

        

      创建一个固定集合,最大保存10000条记录:

        db.createCollection("daily_report",{capped:true,size:10000,max:10000})   

        capped:true 表示为一个固定的集合

        size 是整个集合空间大小,单位为【KB】

        max 是集合文档个数上线,单位是【个】

      将存在的集合转为固定文档: 

        db.runCommand({"convertToCapped":"daily_report",max:10000})

      

        

  • 相关阅读:
    策略模式Strategy
    flex项目
    模板方法Template Method
    timer与ScheduledExecutorService
    java两个字符串的相似度
    一个简单的webshell
    状态模式State
    Java性能优化
    责任链模式China of Responsibility
    ns2.34下mflood协议的完美移植
  • 原文地址:https://www.cnblogs.com/wangbaojun/p/11300754.html
Copyright © 2020-2023  润新知