美文网首页
数据服务建设

数据服务建设

作者: 傻疯子 | 来源:发表于2021-12-30 17:24 被阅读0次

数据服务解决的问题:
不同规模和不同类型的查询会使用到不同的中间存储,数据服务可以使用统一的api接口访问数据
数据和数据接口归属于不同应用,数据和接口无法复用,数据服务将接口统一在数据服务上,拥有数据限流的功能,可以实现数据共享。
无法得知数据和应用的关系,无法优先恢复重要应用的数据,数据服务建立了数据与应用的链路关系,可以加快故障恢复。
数据模型字段变更导致应用需要重新上线,数据服务可以解藕数据应用和中台数据,只需要修改参数和字段的映射关系即可。

数据服务功能:
实现接口规范化定义,约定好API名称,定义好输入输出参数。
提供网关服务。为每个注册的应用分配accesskey 和 secretkey,应用访问时携带。同时相关负责人给API对应用授权,对应用访问API进行限流。最后进行接口监控,包括响应时间、调用次数、失败次数。
建立数据模型到数据应用的链路关系。给予应用API授权时,将应用甚至页面的标签推到元数据中心中的上游模型,取消授权时,清理标签。
提供推送数据能力,将数据写到消息中间件中,由应用进行订阅。
数据服务要支持多种中间存储。根据不同情况使用不同存储,常用的包括mysql、hbase、elasticsearch、redis等。
建立逻辑模型,实现数据复用。可以给API建立类似视图查询的多表关联查询的功能,访问时动态查询数据。
构建API集市,实现接口复用。基于元数据中心数据指标进行指标筛选,对于已有的接口可以直接申请访问权限。

数据服务系统建设上,需要在接口服务上能实现高可用和水平扩展。建设逻辑模型查询,从多张表聚合数据后返回。数据根据依赖导出到中间存储上。

相关文章

  • 数据服务建设

    数据服务解决的问题:不同规模和不同类型的查询会使用到不同的中间存储,数据服务可以使用统一的api接口访问数据数据和...

  • 企业数据服务体系建设

    数据中台的概念如今在国内风靡一时,而人们渐渐开始有这样的疑问:中国的数据中台市场如此火热,而国外的数据中台却没有什...

  • 大数据仓库建设体系架构

    大数据仓库建设方法论:在业务架构设计、模型设计、数据研发、数据服务的各个环节中,实现可管理、可溯源、可规避...

  • 分布式容错系统设计

    系统设计上考虑实时数据服务集群和历史数据服务集群。实时数据服务集群采用Zookeeper集群管理技术,搭建...

  • DataWorks实战2-业务流程的模块规划

    数据仓库主要包含数据集成、数据计算、数据服务、数据质量、数据资产等模块。在数仓建设中,对数据开发者说最主要工作在数...

  • git工程管理规范

    工程结构 在约定git工程建设前 先来规范一下工程之间的关系 数据服务:数据持久化操作,业务逻辑实现。以数据结构低...

  • 中台的分类

    中台建设分为四个类别:产品服务中台、业务服务中台、数据服务中台、技术服务中台。 业务中台:提供复用服务,例如统...

  • 2019-03-11

    ZN:项目的核心目标 1.把三个单子的数据接入、数据服务建设起来 。 分解的原则:事项从大到小 核心思路:弄...

  • 走好数据中台最后一公里,为什么说数据服务API是数据中台的标配?

    一、课程介绍 数据服务API作为数据统一服务平台建设的最上层,能够将数据仓库数据以服务化、接口化的方式提供给数据使...

  • 统一数据服务架构

    大数据服务化架构 关键技术一:配置即开发 平台用户分为两类角色:其一是数据服务生产方,其二是数据服务调用方。数据服...

网友评论

      本文标题:数据服务建设

      本文链接:https://www.haomeiwen.com/subject/hjwiqrtx.html