美文网首页
数据质量问题初探

数据质量问题初探

作者: 有点胖的瘦子 | 来源:发表于2022-10-24 06:17 被阅读0次

当前系统出现了一些数据质量问题,

现象

例如在合同关闭后,仍然缺乏预计交货时间,虽然一开始签订的时候可以不存在。还有就是
部分必要字段为空。
数据明细的条目丢失

原因分析

用户在录入时缺乏必要的校验
数据在多系统传输时,缺乏逻辑校验
系统在数据导出时,缺乏条目数据的校验
在导入数据前缺乏数据正确性的校验

解决思路

通过卡点方式对数据进行逻辑校验,例如在消费应用中,对导入的数据进行逻辑合规性验证。

技术方案

搭建统一的数据质量监控平台,支持多源数据的读取与检索。
明确检测业务规则,并将业务规则落到文档
将明确的业务规则转变成检查逻辑,例如SQL或者逻辑代码
定期在平台上运行逻辑代码,并将运行结果反馈出来。
一般情况下,根据运行结果数量>0判断是否有异常数据
将异常数据的ID与业务检测规则通知数据监测人员。

相关文章

  • 数据质量问题初探

    当前系统出现了一些数据质量问题, 现象 例如在合同关闭后,仍然缺乏预计交货时间,虽然一开始签订的时候可以不存在。还...

  • 数据处理基石:Pandas数据探索

    Pandas数据初探索 本文介绍的是Pandas数据初探索。当我们生成或者导入了数据之后,通过数据的探索工作能够快...

  • 数据挖掘中常用的数据清洗方法

    数据清洗一是为了解决数据质量问题,二是让数据更加适合做挖掘 一、解决数据质量问题 数据的完整性,比如人的属性中缺少...

  • Kotlin初探(二)数据加载

    内容 Part 1:Kotlin初探(一)基础构建 Part2:Kotlin初探(二)数据加载 UI界面就是一个简...

  • 数据初探

    谈起人工智能,大家往往容易被神秘的“智能”一词迷惑,认为机器产生智能一定极其复杂深奥。诚然,人工智能确实是基于非常...

  • 1.5-数据库认识加强

    1.需求前后数据库变化 2.索引和离线数据 3.优化和大数据初探

  • 2018年毕业论文指导参考题目

    大数据背景下情报信息可视化初探 大数据背景下身份识别方法初探 公安情报部门企业维稳风险评估 新形势下公安情报部门职...

  • koa2+sequelize初探

    koa2+sequelize初探 项目结构 controllers:请求后的事件 mdel:sequelize数据...

  • 第二章 数据

    数据 围绕4个方面展开数据的讨论: 数据类型:属性的类型,数据集的类型。 数据质量:必须解决的质量问题包括存在的噪...

  • 医学生物信息学:基因芯片数据挖掘分析表达差异基因

    基因芯片数据挖掘分析表达差异基因 基因芯片数据分析(一):芯片数据初探 基因芯片数据分析(二):读取芯片数据 基因...

网友评论

      本文标题:数据质量问题初探

      本文链接:https://www.haomeiwen.com/subject/shtszrtx.html