专业技能|大数据技术架构

作者: 老杨说技术 | 来源:发表于2020-04-26 12:05 被阅读0次
大数据技术架构图

大数据技术架构图告诉你:1)搭建什么样的技术架构支持业务:2)该使用什么技术平台。

它从上往下分为4层,依次是:服务层、计算层、存储层和采集层。

1.服务层:是说给用户使用的东东,一般就是一个数据Portal,如Tableau;还有数个数据接口。

2.计算层:是说数据的离线分析用Hive,近实时分析用Spark Streaming,还有一些聚类、分类等算法用SK learn等,经过这些计算、统计、分析之后,数据就会更加有血有肉,这一层可以认为数据的核心层,也关乎数据价值的有无和大小。

3.存储层:是说全量源数据、细节数据以及经过清洗的数据,存储在HDFS中,这一层相当于经过了粗略的一些萃取工艺,把一些“垃圾”摒弃掉了。

4.采集层:是说业务数据存储在mysql中,各种行为数据、各种补充的业务数据、各种技术类的数据都存储在日志文件中,这一层是数据的原材料,尽量多的采集用户的所有行为就对了。

相关文章

  • 专业技能|大数据技术架构

    大数据技术架构图告诉你:1)搭建什么样的技术架构支持业务:2)该使用什么技术平台。 它从上往下分为4层,依次是:服...

  • 专业技能|技术架构

    技术架构图告诉你:1)互联网电商技术架构分为几层;2)每一层用什么技术。 它分为六层,从上往下依次是:用户、负载均...

  • 系统架构基本概要

    架构原理图 应用架构 业务架构 系统架构 数据架构 技术架构

  • 架构设计

    1.功能架构2.技术架构3.数据架构 数据仓库架构知识 企业架构 Zachman FEA Gartner TOGA...

  • Hadoop基本知识点总结

    内容参考链接:慕课网--Hadoop大数据平台架构基础篇Google大数据技术(3大):MapReduce、Big...

  • 移动计算比移动数据更划算

    大数据技术和传统的软件开发技术在架构思路上有很大不同,大数据技术更为关注数据,所以相关的架构设计也围绕数据展开,如...

  • 移动计算比移动数据更划算

    大数据技术和传统的软件开发技术在架构思路上有很大不同,大数据技术更为关注数据,所以相关的架构设计也围绕数据展开,如...

  • 读书:技术团队启示录-TOP100实践案例(2)

    本节案例主旨:架构设计/技术战略 第三篇 架构设计/技术战略 从零开始搭建大数据平台(数据挖掘+用户行为分析:数据...

  • 基于FlinkSql1.10.0 搭建实时数仓

    一、数据同步方案 二、技术选型 2.1 开源框架与阿里云架构对比 分类阿里云架构开源架构数据采集DTS、DataH...

  • 浅谈大数据开发

    大数据的技术架构 为什么需要这些技术架构 很多小伙伴还不太了解大数据开发。没有使用这些框架之前,数据工程师们是如何...

网友评论

    本文标题:专业技能|大数据技术架构

    本文链接:https://www.haomeiwen.com/subject/eiedwhtx.html