美文网首页
HBase数据模型的概念

HBase数据模型的概念

作者: 掩流年 | 来源:发表于2020-12-20 00:18 被阅读0次

本文所述版本为HBase2.X

HBase官方文档的说法,HBase是一个multi-dimensional map(多维表),BigTable论文中也称BigTable为"sparse,distributed, persistent multidimensional sorted map",这个说法可以根据它的整个表设计来看。在HBase的表设计中,有Row,Column,Column Family,Column Qualifier,Cell,Timestamp。

  • Row,HBase中的一行由行键和一列或多列与它们相关联的值组成。在每一行中有一个非常重要的概念叫做rowkey,它是依照顺序字母去排序的,这样的好处是它的scan操作可以得到很好的优化,带来的问题是,如果分布不均匀的化,在分布式的存储中,将会造成一块数据存储在同一个region,对于单节点压力过大的问题。所以通常对于rowkey的设计是使用例如SHA-1的散列算法作为开头,然后拼接实际的业务Id。
  • Column,HBase中的列由列族和列限定符组成,它们由:(冒号)字符分隔。
  • Column Family,在HBase中一个列簇的数据是存储在一起的,一个列簇下可以有多个列。在通常的设计中,一般不建议设计过多的列簇。这样做的目的是size较大的数据和小size的关键数据可以分列簇存储,在一些查询操作中可以做到高效。
  • cell:单元格,由五元组(row, column, timestamp, type, value)组成的结构,代表该值的版本。
  • Column Qualifier,一个columnfamily下可以设置任意多个qualifier,因此可以理解为HBase中的列可以动态增加,理论上甚至可以扩展到上百万列。比如content:html,content:pdf,content为列簇,html和pdf为列名。
  • timestamp,时间戳,每个cell在写入HBase的时候都会默认分配一个时间戳作为该cell的版本,当然,用户也可以在写入的时候自带时间戳。

视图

在说物理视图和逻辑视图之前,我们先说说两者之间的区别。
物理视图指反映当前系统的组织机构、输入输出、资源利用情况和日常数据处理过程的模型。
逻辑视图指在物理模型的基础上进行分析,区分出本质的和非本质的因素,去掉那些非本质的因素,特别是非本质的物理因素,从而形成反映系统本质的模型。
从HBase角度来讲,我们大体可以理解为逻辑视图是我们看待HBase整个表用存储结构整体的视图结构,物理视图则是其中的一些细节部分,以及逻辑视图没能表现出来的细节。

逻辑视图

从官网文档的一张图来看

逻辑视图webtable表
有一个名为webtable的表,其中包含两行(com.cnn.www和com.example.www)和三个列族,分别名为content,anchor和people。 在此示例中,对于第一行(com.cnn.www),列簇anchor包含两列(anchor:cssnsi.com,anchor:my.look.ca),列簇contents包含一列(contents:html)。 示例包含行键com.cnn.www的行的5个版本,以及行键com.example.www的行的一个版本。 content:html列限定符包含给定网站的整个HTML。 anchor列簇的列均包含链接到该行表示的站点的外部站点,以及在其链接的anchor中使用的文本。 people列簇代表与该站点关联的人员。

物理视图

ColumnFamily anchor ColumnFamily contents

概念视图中显示的空单元格根本不存储。 因此,在时间戳记t8处对content:html列的值的请求将不返回任何值。但是,如果未提供时间戳,则将返回特定列的最新值。 给定多个版本时候,因为时间戳以降序存储,所以最新的也是找到的第一个版本。因此,如果未指定时间戳,则对com.cnn.www行中所有列的值的请求将是:来自时间戳t6的content:html的值,来自时间戳t9的anchor:cnnsi.com的值, 时间戳记t8中的anchor:my.look.ca

Namespace

命名空间是表的逻辑分组,类似于关系数据库系统中的数据库。

Version

在HBase中版本是降序存储的,所以,如果不指定版本获取数据,将拿到最新版本。
版本的设计结构如下

hbase> alter ‘t1′, NAME => ‘f1′, VERSIONS => 5

Join

HBase不支持Join操作。
但是,这并不意味着不能进行联表查询,而意味着得自己去做。 两种主要策略是在写入HBase时对数据进行非规范化,也就是说把数据存储在一张表中。或者在应用执行中具有添加一个查找表,进行两个表的关联。

相关文章

  • Hbase学习资料

    HBase数据模型解析和基本的表设计分析 Hbase原理、基本概念、基本架构 HBase 超详细介绍 Apache...

  • HBase数据模型的概念

    本文所述版本为HBase2.X 从HBase官方文档[https://hbase.apache.org/2.2/b...

  • HBase系列 - 概念和架构原理

    前言 本文主要介绍HBase基本概念以及架构原理包含数据模型、基础进程组件。再从HBase的写流程和读流程去了解H...

  • HBase - 总结

    一、HBase简介 1.1 定义 1.2 HBase数据模型 1.2.1 HBase逻辑结构 1.2.2 HBas...

  • (转)HBase详细概述

    本文首先简单介绍了HBase,然后重点讲述了HBase的高并发和实时处理数据 、HBase数据模型、HBase物理...

  • HBase 数据模型

    理解 HBase 的数据模型,能够更好的理解 HBase 针对 Region 的操作(Split、Compact等...

  • HBASE学习笔记

    本文是对Hbase组件的一个学习总结,共包括如下章节的内容: Hbase是什么 Hbase的数据模型 Hbase体...

  • HBase入门学习

    HBase的数据模型 HBase基于HDFS进行底层数据存储,HBase是谷歌内部工具BigTable的一个开源实...

  • PowerDesigner03 概念数据模型(CDM)

    索引 概念数据模型(CDM)概述 概念数据模型(CDM)创建步骤 学生、班级、老师概念数据模型 概念数据模型(CD...

  • HBase

    HBase定义 HBase是一种分布式、可扩展、支持海量数据存储的NoSQL数据库。 HBase结构 数据模型 1...

网友评论

      本文标题:HBase数据模型的概念

      本文链接:https://www.haomeiwen.com/subject/cohhnktx.html