美文网首页
大数据入门:Hbase基础架构解析

大数据入门:Hbase基础架构解析

作者: 成都加米谷大数据 | 来源:发表于2020-11-25 17:45 被阅读0次

Hadoop技术生态当中的Hbase,其实全称叫做Hadoop Database,顾名思义,所谓Hbase,其实也就是Hadoop的数据,而从架构的角度来说,Hbase就是一个分布式存储系统。今天的大数据入门分享,我们来讲讲Hbase的基础架构。

一、Hbase背景

Hbase的前身,其实是Google“三驾马车”之一的Big Table的开源版本,Hbase建立在HDFS之上,为大数据系统平台提供相应的数据存储支持。

在Hadoop生态当中,Hbase利用HDFS作为其文件存储系统,利用MapReduce 来处理 Hbase 中的海量数据,利用ZooKeeper来完成协调任务,提供高可靠性、高性能、列存储、可伸缩、实时读写的服务。

二、HBase基础架构

1、HMaster

功能:

1)监控RegionServer

2)处理RegionServer故障转移

3)处理元数据的变更

4)处理region的分配或移除

5)在空闲时间进行数据的负载均衡

6)通过Zookeeper发布自己的位置给客户端

2、RegionServer

功能:

1)负责存储HBase的实际数据

2)处理分配给它的Region

3)刷新缓存到HDFS

4)维护HLog

5)执行压缩

6)负责处理Region分片

组件:

1)Write-Ahead logs

HBase的修改记录,当对HBase读写数据的时候,数据不是直接写进磁盘,它会在内存中保留一段时间(时间以及数据量阈值可以设定)。但把数据保存在内存中可能有更高的概率引起数据丢失,为了解决这个问题,数据会先写在一个叫做Write-Ahead logfile的文件中,然后再写入内存中。所以在系统出现故障的时候,数据可以通过这个日志文件重建。

2)HFile

这是在磁盘上保存原始数据的实际的物理文件,是实际的存储文件。

3)Store

HFile存储在Store中,一个Store对应HBase表中的一个列族。

4)MemStore

顾名思义,就是内存存储,位于内存中,用来保存当前的数据操作,所以当数据保存在WAL中之后,RegsionServer会在内存中存储键值对。

5)Region

Hbase表的分片,HBase表会根据RowKey值被切分成不同的region存储在RegionServer中,在一个RegionServer中可以有多个不同的region。

三、HBase特征

1)海量存储

Hbase适合存储PB级别的海量数据,在PB级别的数据以及采用廉价PC存储的情况下,能在几十到百毫秒内返回数据。

2)列式存储

这里的列式存储其实说的是列族存储,Hbase是根据列族来存储数据的。

3)易扩展

Hbase的扩展性主要体现在两个方面,一个是基于上层处理能力(RegionServer)的扩展,一个是基于存储的扩展(HDFS)。通过横向添加RegionSever的机器,进行水平扩展,提升Hbase上层的处理能力,提升Hbsae服务更多Region的能力。

4)高并发

由于目前大部分使用Hbase的架构,都是采用的廉价PC,因此单个IO的延迟其实并不小,一般在几十到上百ms之间。这里说的高并发,主要是在并发的情况下,Hbase的单个IO延迟下降并不多,能获得高并发、低延迟的服务。

关于大数据入门,Hbase基础架构解析,以上就为大家做了简单的介绍了。Hbase在Hadoop技术生态当中的重要性,不必强调大家也清楚,而对基础架构的理解和掌握,需要大家花时间去多理解多深入。

相关文章

网友评论

      本文标题:大数据入门:Hbase基础架构解析

      本文链接:https://www.haomeiwen.com/subject/xfwniktx.html