当前系统出现了一些数据质量问题,
现象
例如在合同关闭后,仍然缺乏预计交货时间,虽然一开始签订的时候可以不存在。还有就是
部分必要字段为空。
数据明细的条目丢失
原因分析
用户在录入时缺乏必要的校验
数据在多系统传输时,缺乏逻辑校验
系统在数据导出时,缺乏条目数据的校验
在导入数据前缺乏数据正确性的校验
解决思路
通过卡点方式对数据进行逻辑校验,例如在消费应用中,对导入的数据进行逻辑合规性验证。
技术方案
搭建统一的数据质量监控平台,支持多源数据的读取与检索。
明确检测业务规则,并将业务规则落到文档
将明确的业务规则转变成检查逻辑,例如SQL或者逻辑代码
定期在平台上运行逻辑代码,并将运行结果反馈出来。
一般情况下,根据运行结果数量>0判断是否有异常数据
将异常数据的ID与业务检测规则通知数据监测人员。
网友评论