美文网首页技术思索
从第三方系统定时同步数据的简单设计

从第三方系统定时同步数据的简单设计

作者: 当我写下一亿行代码 | 来源:发表于2018-05-10 09:19 被阅读17次

小Z今天在项目上遇到一个遗留问题,客户的系统需要定时从银行接口获取入账信息,发生了入账数据的丢失。原因是自研系统通过定时任务的方式,每次执行任务只是获取前一天到当前时间的数据,而上个月有段时间银行前置机通信出现异常,所以出现了数据同步不到位的情况。

目前给出的解决方案是:

1.系统中增加一张表,记录每次任务执行成功的业务时间,并非每次任务执行时间,因为存在一段时间内银行端并未发生入账,并且也不能保证现在执行的时间一定早于银行端入账时间,所以用业务时间去构造一条可信的时间戳,该时间戳满足从前往后的规则。

2.每次任务启动后,取出该时间戳,以此为参数,加入2天的冗余量,即往前推2天,去银行调用接口取回数据,然后按照业务规则将数据同步入库。

3.该解决方案不能满足的一种情况是,如银行5月3日入账记录一直为10条,到了现在5月8号后突然新增了一条5月3日的记录。该情况首先认为是外部系统出现异常,要将该情况的数据同步,只能开发一个定时任务,每晚全量同步数据,小Z觉得现阶段没必要,同时认为银行系统在这方面是可靠的。

目前将会按照该解决方案执行。

相关文章

  • 从第三方系统定时同步数据的简单设计

    小Z今天在项目上遇到一个遗留问题,客户的系统需要定时从银行接口获取入账信息,发生了入账数据的丢失。原因是自研系统通...

  • JAVA接口同步第三方系统数据

    JAVA实现定时任务接口,定时按时间增量去同步第三方系统的数据,第三方接口有数据量限制(1000),请问在某次调用...

  • 定时同步数据的奥秘

    我总以为两个系统之间的同步数据实时性越高越好,只有同步大量数据时才利用定时同步。今天了解到了不同系统之间的同步,发...

  • 账户拉活

    手机系统设置里会有“帐户”一项功能,任何第三方APP都可以通过此功能将数据在一定时间内同步到服务器中去。系统在将A...

  • rsync同步数据

    一、需求 同步mysql的备份文件 定时同步 二、实现通过rsync来实现简单高效的数据同步,以下假设服务端为19...

  • 数据同步系统需要解决的问题

    数据同步的方式: 直连同步:通过ODBC/JDBC等接口直连数据库,对源系统性能影响较大。 数据文件同步:简单,实...

  • 在定时任务中使用jdbcTemplate之后,上线后数据库出现死

    问题描述 项目中需要定时同步会员系统司机(会员)数据,为了简化开发,直接使用jdbcTemplate作为数据库连接...

  • 任务管理

    背景 系统存在定时任务的执行。如:第三方系统数据获取、系统初始化、数据转储等。任务管理至少具备下面能力: 灵活的执...

  • 使用entityManager.createNativeQuer

    一、问题描述 业务场景是从第三方系统每天同步两次13万数据到我们的数据库。一开始使用jpa的saveAll...

  • iOS求职面试题目搜集<阿里,腾讯,网易>

    iOS系统原理: 第三方: 性能、内存优化: 设计模式: 系统架构设计: 网络模型协议数据: 动画原理及使用: 数...

网友评论

    本文标题:从第三方系统定时同步数据的简单设计

    本文链接:https://www.haomeiwen.com/subject/craarftx.html