本文所述版本为HBase2.X
从HBase官方文档的说法,HBase是一个multi-dimensional map(多维表),BigTable论文中也称BigTable为"sparse,distributed, persistent multidimensional sorted map",这个说法可以根据它的整个表设计来看。在HBase的表设计中,有Row,Column,Column Family,Column Qualifier,Cell,Timestamp。
- Row,HBase中的一行由行键和一列或多列与它们相关联的值组成。在每一行中有一个非常重要的概念叫做rowkey,它是依照顺序字母去排序的,这样的好处是它的scan操作可以得到很好的优化,带来的问题是,如果分布不均匀的化,在分布式的存储中,将会造成一块数据存储在同一个region,对于单节点压力过大的问题。所以通常对于rowkey的设计是使用例如SHA-1的散列算法作为开头,然后拼接实际的业务Id。
- Column,HBase中的列由列族和列限定符组成,它们由:(冒号)字符分隔。
- Column Family,在HBase中一个列簇的数据是存储在一起的,一个列簇下可以有多个列。在通常的设计中,一般不建议设计过多的列簇。这样做的目的是size较大的数据和小size的关键数据可以分列簇存储,在一些查询操作中可以做到高效。
- cell:单元格,由五元组(row, column, timestamp, type, value)组成的结构,代表该值的版本。
- Column Qualifier,一个columnfamily下可以设置任意多个qualifier,因此可以理解为HBase中的列可以动态增加,理论上甚至可以扩展到上百万列。比如
content:html
,content:pdf
,content为列簇,html和pdf为列名。 - timestamp,时间戳,每个cell在写入HBase的时候都会默认分配一个时间戳作为该cell的版本,当然,用户也可以在写入的时候自带时间戳。
视图
在说物理视图和逻辑视图之前,我们先说说两者之间的区别。
物理视图指反映当前系统的组织机构、输入输出、资源利用情况和日常数据处理过程的模型。
逻辑视图指在物理模型的基础上进行分析,区分出本质的和非本质的因素,去掉那些非本质的因素,特别是非本质的物理因素,从而形成反映系统本质的模型。
从HBase角度来讲,我们大体可以理解为逻辑视图是我们看待HBase整个表用存储结构整体的视图结构,物理视图则是其中的一些细节部分,以及逻辑视图没能表现出来的细节。
逻辑视图
从官网文档的一张图来看
有一个名为webtable的表,其中包含两行(com.cnn.www和com.example.www)和三个列族,分别名为content,anchor和people。 在此示例中,对于第一行(com.cnn.www),列簇anchor包含两列(anchor:cssnsi.com,anchor:my.look.ca),列簇contents包含一列(contents:html)。 示例包含行键com.cnn.www的行的5个版本,以及行键com.example.www的行的一个版本。 content:html列限定符包含给定网站的整个HTML。 anchor列簇的列均包含链接到该行表示的站点的外部站点,以及在其链接的anchor中使用的文本。 people列簇代表与该站点关联的人员。
物理视图
ColumnFamily anchor ColumnFamily contents概念视图中显示的空单元格根本不存储。 因此,在时间戳记t8处对content:html列的值的请求将不返回任何值。但是,如果未提供时间戳,则将返回特定列的最新值。 给定多个版本时候,因为时间戳以降序存储,所以最新的也是找到的第一个版本。因此,如果未指定时间戳,则对com.cnn.www行中所有列的值的请求将是:来自时间戳t6的content:html的值,来自时间戳t9的anchor:cnnsi.com的值, 时间戳记t8中的anchor:my.look.ca。
Namespace
命名空间是表的逻辑分组,类似于关系数据库系统中的数据库。
Version
在HBase中版本是降序存储的,所以,如果不指定版本获取数据,将拿到最新版本。
版本的设计结构如下
hbase> alter ‘t1′, NAME => ‘f1′, VERSIONS => 5
Join
HBase不支持Join操作。
但是,这并不意味着不能进行联表查询,而意味着得自己去做。 两种主要策略是在写入HBase时对数据进行非规范化,也就是说把数据存储在一张表中。或者在应用执行中具有添加一个查找表,进行两个表的关联。
网友评论