Mongo批量处理数据的思路
Mongo批量处理数据的思路mongo数据库中已经采集了2000W的数据,现在需要对每条数据进行一定的处理,如何设计处理思路?逐条处理一开始选择的定义一个状态字段 _Status, 默认等于0, 通过find_one_and_update 的方式逐一进行处理,这样处理的弊端也是很明显的:1. 逐一处理,速度较慢2. 大量的查询会占用更多的数据库资源批量处理使用mongo中的limit的方式批量获取数据,更新最后一次获取到的数据的_id,为了保证数据不被漏掉,我们对_id进行排序, 代码如下:
原创
2021-01-15 11:26:34 ·
725 阅读 ·
0 评论