- 最近在写数据平台的数据校验功能,有一个需求是如果数据校验不通过,需要对数据进行重跑。在写数据重跑(补数据)的过程中遇到了一个小问题,在此记录下来。
- 问题是:如果重跑一天的数据,从api中取数据存到mongodb,没有任何问题。
但如果是重跑多天的数据(假如补20190914-20190915)这两天的数据,重跑完后,数据库中20190914跟单独重跑的数据条数不一致。-_- - 原因:api提供的重跑多天的任务是聚合的,将很多数据聚合成一条,这样数据库中的条数显然就会比重跑一天的数据少很多。
- 解决办法:获取到开始日期和结束日期后,算出中间相差的天数,然后进行遍历,每次只重跑一天的数据。
网友评论