Hadoop技术生态当中的Hbase,其实全称叫做Hadoop Database,顾名思义,所谓Hbase,其实也就是Hadoop的数据,而从架构的角度来说,Hbase就是一个分布式存储系统。今天的大数据入门分享,我们来讲讲Hbase的基础架构。
一、Hbase背景
Hbase的前身,其实是Google“三驾马车”之一的Big Table的开源版本,Hbase建立在HDFS之上,为大数据系统平台提供相应的数据存储支持。
在Hadoop生态当中,Hbase利用HDFS作为其文件存储系统,利用MapReduce 来处理 Hbase 中的海量数据,利用ZooKeeper来完成协调任务,提供高可靠性、高性能、列存储、可伸缩、实时读写的服务。
二、HBase基础架构
1、HMaster
功能:
1)监控RegionServer
2)处理RegionServer故障转移
3)处理元数据的变更
4)处理region的分配或移除
5)在空闲时间进行数据的负载均衡
6)通过Zookeeper发布自己的位置给客户端
2、RegionServer
功能:
1)负责存储HBase的实际数据
2)处理分配给它的Region
3)刷新缓存到HDFS
4)维护HLog
5)执行压缩
6)负责处理Region分片
组件:
1)Write-Ahead logs
HBase的修改记录,当对HBase读写数据的时候,数据不是直接写进磁盘,它会在内存中保留一段时间(时间以及数据量阈值可以设定)。但把数据保存在内存中可能有更高的概率引起数据丢失,为了解决这个问题,数据会先写在一个叫做Write-Ahead logfile的文件中,然后再写入内存中。所以在系统出现故障的时候,数据可以通过这个日志文件重建。
2)HFile
这是在磁盘上保存原始数据的实际的物理文件,是实际的存储文件。
3)Store
HFile存储在Store中,一个Store对应HBase表中的一个列族。
4)MemStore
顾名思义,就是内存存储,位于内存中,用来保存当前的数据操作,所以当数据保存在WAL中之后,RegsionServer会在内存中存储键值对。
5)Region
Hbase表的分片,HBase表会根据RowKey值被切分成不同的region存储在RegionServer中,在一个RegionServer中可以有多个不同的region。
三、HBase特征
1)海量存储
Hbase适合存储PB级别的海量数据,在PB级别的数据以及采用廉价PC存储的情况下,能在几十到百毫秒内返回数据。
2)列式存储
这里的列式存储其实说的是列族存储,Hbase是根据列族来存储数据的。
3)易扩展
Hbase的扩展性主要体现在两个方面,一个是基于上层处理能力(RegionServer)的扩展,一个是基于存储的扩展(HDFS)。通过横向添加RegionSever的机器,进行水平扩展,提升Hbase上层的处理能力,提升Hbsae服务更多Region的能力。
4)高并发
由于目前大部分使用Hbase的架构,都是采用的廉价PC,因此单个IO的延迟其实并不小,一般在几十到上百ms之间。这里说的高并发,主要是在并发的情况下,Hbase的单个IO延迟下降并不多,能获得高并发、低延迟的服务。
关于大数据入门,Hbase基础架构解析,以上就为大家做了简单的介绍了。Hbase在Hadoop技术生态当中的重要性,不必强调大家也清楚,而对基础架构的理解和掌握,需要大家花时间去多理解多深入。
网友评论