美文网首页大数据可视化分析呆鸟的Python数据分析
基于关系型数据库和ES搜索引擎,实现多源,百亿级数据的大数据分析

基于关系型数据库和ES搜索引擎,实现多源,百亿级数据的大数据分析

作者: NBI大数据可视化分析 | 来源:发表于2019-08-27 11:37 被阅读0次

背景:

随着公司各项业务的快速发展与扩张,服务器和各种应用系统随之而增加,同时对应用系统、服务器的稳定性,可持续性提出了更高的要求,公司希望搭建一套综合的分析与监控系统,为各个部分提供决策支持。

需要解决的问题:

(1)数据孤岛问题,数据分散在不同的业务系统当中;

(2)服务器日志信息如何有效搜集与存储;

(3)业务部门分析需求不固定,经常有新的需求提出,如何满足各部门的需求;

(4)基于上面的问题如何快速搭建多源的可视化分析系统;

技术选型与整体架构设计:

(方案一:业务数据ETL,基于数仓架构模式)

(方案二:采用数据直接模式)

(1)日志采集主要通过logstash来采集,然后存储到搜索引擎中;

(2)业务系统数据可以采用两种方案架构第一种是建设数仓,将不同数据汇集到数仓中;第二种:采用直连的方式直接对接大数据分析平台;

(3)大数据可视化分析采用NBI大数据可视化分析平台,可以实现多源数据分析,能很好的支持Elasticsearch,关系型数据库,大数据存储平台的数据接入;通过拖拽式和高度灵活的布局模式,可以快速构建各类可视化分析报告应用;通过权限控制,设置编辑与访问权限,保障企业数据资产的安全有效利用;

(4)最终通过NBI大数据可视化分析平台构建各类数据分析应用,输出给对应部门人员使用。

注意事项:

(1)Elasticsearch需要安装一个sql插件elasticsearch-sql,根据es对应版本下载插件,便于做交互式分析;

(2)NBI大数据平台中,目前对Elasticsearch支持的建模方式为SQL建模

操作步骤:

(1)在NBI大数据平台中,通过数据管理模块,添加Elasticsearch数据源;

(2)测试连接,检验是否能正常连接到Elasticsearch

(3)连接成功,通过SQL建立工作表模型

(4)构建数据报告:

(5)设置访问权限:

以上案例通过NBI大数据可视化工具(nbi.easydatavis.com:8033)完成

相关文章

  • 基于关系型数据库和ES搜索引擎,实现多源,百亿级数据的大数据分析

    背景: 随着公司各项业务的快速发展与扩张,服务器和各种应用系统随之而增加,同时对应用系统、服务器的稳定性,可持续性...

  • elasticsearch head 日常操作

    前言 elasticsearch 下文简称es,本文基于es6所书写。 es作为非关系型数据库,基于倒排索引,集群...

  • ElasticSearch入门(二)ElasticSearch相

    ES是基于Lucene开发的一个分布式全文检索框架,往ES中存储和查询,格式是json。 ES和关系型数据库比较 ...

  • 通俗理解大数据及其应用价值

    大数据概述 在大数据这个概念兴起之前,信息系统存储数据的方法主要是我们熟知的关系型数据库,关系型数据库,关系型模型...

  • MongoDB初体验

    MongoDB是基于分布式文件存储的数据库,介于关系型数据库和非关系型数据库之间,是非关系数据库当中功能最丰富,最...

  • 数据库基本知识

    数据库基于存储介质的不同分为:关系型数据库(SQL)、非关系型数据库(NoSQL:Not only SQL) 关系...

  • ElasticSeach

    ES基本概念(ES是非关系型数据库) Index(索引-数据库): ES 数据管理的顶层单位就叫做 Index(索...

  • 数据库的分类和常见的数据库

    分类:关系型数据库和非关系型数据库常见的关系型数据库有:mysqlOracleSQLserver 非关系型数据库:...

  • 简述关系型数据库和非关系型数据库

    当前数据库分为关系型数据库和非关系型数据库 关系型数据库 关系型数据库:指采用了关系模型来组织数据的数据库。关系模...

  • 数据分析与大数据

    一、基于大数据的数据分析方法 基于大数据的数据分析方法的理论基础是数据挖掘和分布式计算原理。大数据具有海量、快速、...

网友评论

    本文标题:基于关系型数据库和ES搜索引擎,实现多源,百亿级数据的大数据分析

    本文链接:https://www.haomeiwen.com/subject/luosectx.html