美文网首页我爱编程
大数据零基础快速了解HBase

大数据零基础快速了解HBase

作者: 大数据在说话 | 来源:发表于2017-08-24 15:38 被阅读0次

    大数据0基础怎么学习?科多大数据带你快速了解HBase。

    1. HBase介绍

    Hbase 是一个高可靠、高性能、面向列、可伸缩的分布式存储系统,利用Hbase技术可在廉价PC Server上搭建 大规模结构化存储集群。HBase 是Google Bigtable 的开源实现,与Google Bigtable 利用GFS作为其文件存储系统类似, HBase 利用Hadoop HDFS 作为其文件存储系统;Google 运行MapReduce 来处理Bigtable中的海量数据, HBase 同样利用Hadoop MapReduce来处理HBase中的海量数据;Google Bigtable 利用Chubby作为协同服务, HBase 利用Zookeeper作为对应。

    HBase特点:

    1. 大:一个表可以有数十亿行,上百万列。

    2. 无模式:每行都有一个可排序的主键和任意多的列,列可以根据需要动态的增加,同一张表中不同的行可以有截然不同的列;

    3. 面向列:面向列(族)的存储和权限控制,列(族)独立检索

    4. 稀疏:空(null)列并不占用存储空间,表可以设计的非常稀疏

    5. 数据多版本:每个单元中的数据可以有多个版本,默认情况下版本号自动分配,是单元格插入时的时间戳

    6. 数据类型单一:Hbase中的数据都是字符串,没有类型。

    2. HBase 设计模型

    HBase 中的每一张表就是所谓的 BigTable。BigTable 会存储一系列的行记录,行记录有三个基本类型的定义:Row Key、Time Stamp、Column。

    1. Row Key 是行在 BigTable 中的唯一标识。

    2. Time Stamp 是每次数据操作对应关联的时间戳,可以看做 SVN 的版本。

    3. Column 定义为< family>:< label>,通过这两部分可以指定唯一的数据的存储列,family 的定义和修改需要 对 HBase 进行类似于 DB 的 DDL 操作,而 label ,不需要定义直接可以使用,这也为动态定制列提供了一种手段 。family 另一个作用体现在物理存储优化读写操作上,同 family 的数据物理上保存的会比较临近,因此在业务设计的过程中可以利用这个特性。

    3. HBase 存储架构

    从HBase的架构图上可以看出,HBase中的存储包括HMaster、HRegionServer、HRegion、Store、MemStore、StoreFile、HFile、HLog等, 以下是 HBase 存储架构图:

    4. Hbase 的部署安装步骤

    1. 节点信息

    名称

    IP地址

    用户名

    密码

    进程

    master

    192.168.80.130

    hadoop

    admin@123

    HMaster

    host2

    192.168.80.131

    hadoop

    admin@123

    HMaster,HRegionServer

    host3

    192.168.80.132

    hadoop

    admin@123

    HRegionServer

    2. 上apache管网下载HBase1.2.4压缩包

    3. 解压压缩包

    cd /usr/local

    sudo tar -zvxf ~/下载/hbase-1.2.4-bin.tar.gz

    suod chown -Rhadoophbase-1.2.4

    4. 编辑hbase-env.sh文件

    vim hbase-env.sh

    #设置JDK路径

    export JAVA_HOME=/usr/lib/jdk1.7.0_51/

    #告诉hbase使用外部的zk

    export HBASE_MANAGES_ZK=false

    5. 编辑hbase-site.xml

    vi hbase-site.xml

    hbase.rootdir

    hdfs://hadoop-ha/hbase

    hbase.master.info.port

    60010

    hbase.cluster.distributed

    true

    hbase.zookeeper.quorum

    master:2181,host2:2181,host3:2181

    6. 编辑regionservers

    vi regionservers

    host2

    host3

    7. 编辑backup-masters

    host2

    8. 将Hbase路径信息增加到环境变量中

    vi ~/.bashrc

    export HBASE_HOME=/usr/local/hbase-1.2.4

    export PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$ZOOKEEPER_HOME/bin:$ZOOKEEPER_HOME/conf:$HBASE_HOME/bin:$PATH

    source ~/.bashrc

    9. 将master节点上的hbase-1.2.4拷贝到其他节点的相同目

    //将hbase目录拷贝到host2节点

    sudo scp -r hbase-1.2.4 hadoop@host2:~/下载

    ssh host2

    sudo mv -r hbase-1.2.4 /usr/local

    vi ~.bashrc

    export HBASE_HOME=/usr/local/hbase-1.2.4

    export PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$ZOOKEEPER_HOME/bin:$ZOOKEEPER_HOME/conf:$HBASE_HOME/bin:$PATH

    source ~/bashrc

    exit

    //将hbase目录拷贝到host3节点

    sudo scp -r hbase-1.2.4 hadoop@host3:~/下载

    ssh host3

    sudo mv -r hbase-1.2.4 /usr/local

    vi ~.bashrc

    export HBASE_HOME=/usr/local/hbase-1.2.4

    export PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$ZOOKEEPER_HOME/bin:$ZOOKEEPER_HOME/conf:$HBASE_HOME/bin:$PATH

    source ~/bashrc

    exit

    10. 启动hbase

    在启动hadoop后启动hbase,在master节点上启动

    start-hbase.sh

    11. 在hbase中新建一个表member

    --进入hbase命令行

    hbase shell

    --创建表'member'

    create 'member','member_id','address','info'

    -- 查看新建的表

    list

    12. Web查看Hbase信息

    主Master

    相关文章

      网友评论

        本文标题:大数据零基础快速了解HBase

        本文链接:https://www.haomeiwen.com/subject/qljedxtx.html