数据仓库入门之基本概念

作者: 小灰灰besty | 来源:发表于2017-04-17 19:22 被阅读0次

1.背景

首先,要了解数据仓库的产生,在互联网的迅猛发展,各种各样的软件层出不穷,一家公司拥有的系统可能要越来越多,越来越复杂。在数据库技术的支持下,一大批成熟的业务信息系统投入运行,为企业发展做出了巨大贡献。各类信息系统大多属于面向事务处理的OLTP系统,经过多年的运行,积累了大量的数据,而管理决策层对数据分析基础平台的需求却日益强烈。那么问题就来了,两个部门提供的数据是不一样的,让管理者无所适从;由于OLTP的单项系统导致数据的分散性和相同元素定义不一致所致不可能把数据转换成信息;不同的需求,要求将操作型环境和分析型环境相分离;单项系统之间保留的历史数据时间范围不一致,无法满足DSS分析的需要数据的综合问题:非细节数据、多种程度的综合 提升现有的信息。这一系列的问题便困扰着企业的管理者。这时,数据仓库的出现,便是要解决这样的难题。

那么数据仓库能带给我们什么呢?

1.企业范围内的信息共享

2.准确、一致的集成数据

3.面向整个企业和最终用户,针对分析需要,进行数据重组,形成一套全新的、相对完整的数据视图,能够进行快速访问,精确、灵活分析


2.概念

什么是数据仓库,数据仓库是一个面向主题的、集成的、相对稳定的、随时间变化的数据的集合,以用于支持管理层决策过程。

那么通过上述的定义可以很容易的看出,数据仓库的四个特点:

1.面向主题:操作型数据库的数据组织面向事务处理任务,各个业务系统之间各自分离,而数据仓库中的数据是按照一定的主题域进行组织。主题是一个抽象的概念,是指用户使用数据仓库进行决策时所关心的重点方面,一个主题通常与多个操作型信息系统相关。

2.集成的:面向事务处理的操作型数据库通常与某些特定的应用相关,数据库之间相互独立,并且往往是异构的。而数据仓库中的数据是在对原有分散的数据库数据抽取、清理的基础上经过系统加工、汇总和整理得到的,必须消除源数据中的不一致性,以保证数据仓库内的信息是关于整个企业的一致的全局信息。

3.相对稳定的:操作型数据库中的数据通常实时更新,数据根据需要及时发生变化。数据仓库的数据主要供企业决策分析之用,所涉及的数据操作主要是数据查询,一旦某个数据进入数据仓库以后,一般情况下将被长期保留,也就是数据仓库中一般有大量的查询操作,但修改和删除操作很少,通常只需要定期的加载、刷新。

4.反映历史变化:操作型数据库主要关心当前某一个时间段内的数据,而数据仓库中的数据通常包含历史信息,系统记录了企业从过去某一时点(如开始应用数据仓库的时点)到目前的各个阶段的信息,通过这些信息,可以对企业的发展历程和未来趋势做出定量分析和预测。


3.四个层次体系结构

了解了基本概念之后,我们还需要知道数据仓库的四个层次体系结构:

1.数据源:包括企业的内部信息和外部信息。

2.数据的存储和管理:针对现有的业务系统数据,进行抽取、清洗、并有效集成,按照主题进行组织。

3.OLAP服务器:对分析需要的数据进行有效集成,按多维模型予以组织,以便进行多角度,多层次的分析,并发现趋势。

4.前端工具:包括各种报表工具、查询工具,数据分析工具,数据挖掘工具以及各种基于数据仓库或集市的应用开发工具。


4.相关概念

BI:BusinessIntelligence,即商业智能,一类由数据仓库(或数据集市)、查询报表、数据分析、数据挖掘、数据备份和恢复等部分组成的、以帮助企业决策为目的技术及其应用

数据挖掘:从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的信息的非平凡过程。数据挖掘是一种决策支持过程,它主要基于人工智能、机器学习、模式识别、统计学、数据库、可视化技术等

OLAP:On-Line Analytical Processing是数据仓库系统的主要应用,支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果

OLTP: on-line transaction processing,传统的关系型数据库的主要应用,主要是基本的、日常的事务处理,例如银行交易

数据集市:面向特定主题和部门级的数据仓库,是数据仓库的子集,数据仓库是提供跨部门的,统一数据视图

相关文章

  • 数据仓库入门之基本概念

    1.背景 首先,要了解数据仓库的产生,在互联网的迅猛发展,各种各样的软件层出不穷,一家公司拥有的系统可能要越来越多...

  • 数据仓库之数据分析

    数据仓库之数据分析 一、课前准备 二、课堂主题 本课程主要为大家揭秘数据仓库的基本概念,以及数据仓库的模型构建,并...

  • 入门Leaflet之小Demo

    入门 Leaflet 之小 Demo 写在前面 ---- WebGIS 开发基础之 LeafletGIS 基本概念...

  • 大数据经典学习路线(及供参考)之 二

    2.1 数据仓库增强 2.1.1 数据仓库及数据模型入门 什么是数据仓库、数据仓库的意义、数据仓库核心概念、数据仓...

  • 离线数仓二

    数据仓库维度模型设计 维度建模基本概念 维度模型是数据仓库领域大师Ralph Kimall所倡导,他的《数据仓库工...

  • Hive数据仓库之权限管理

    Hadoop/Hive自带权限控制 延续数据仓库之Hive快速入门 - 离线&实时数仓架构[https://www...

  • 51cto赵强HADOOP学习(十)

    什么是Hive?Hive的体系结构 数据仓库的基本概念 数据仓库(DataWarehouse,DW),是一个面向主...

  • 入门——之数据仓库

    大数据分为六大研究从事方向 大数据采集与预处理方向 大数据存储与管理方向 大数据计算模式方向 大数据分析与挖掘方向...

  • 数据仓库-Hive

    数据仓库(Data Warehouse ) 1.1 基本概念 数据仓库的目的是构建面向分析的集成化的数据环境, 为...

  • 数据仓库基本概念

    基本概念 1、数据仓库数据仓库一词尚没有一个统一的定义,著名的数据仓库专家W. H. Inmon 在其著作《Bui...

网友评论

    本文标题:数据仓库入门之基本概念

    本文链接:https://www.haomeiwen.com/subject/buxxzttx.html