美文网首页
Hbase安装部署

Hbase安装部署

作者: 鹅鹅鹅_ | 来源:发表于2019-01-02 09:57 被阅读0次

一、Hbase简介


HBase是Apache Hadoop的数据库,能够对大型数据提供随机、实时的读写访问,是Google的BigTable的开源实现。HBase的目标是存储并处理大型的数据,更具体地说仅用普通的硬件配置,能够处理成千上万的行和列所组成的大型数据库。
HBase是一个开源的、分布式的、多版本的、面向列的存储模型。可以直接使用本地文件系统也可使用Hadoop的HDFS文件存储系统。为了提高数据的可靠性和系统的健壮性,并且发挥HBase处理大型数据的能力,还是使用HDFS作为文件存储系统更佳。另外,HBase存储的是松散型数据,具体来说,HBase存储的数据介于映射(key/value)和关系型数据之间。如下图所示,HBase存储的数据从逻辑上看就是一张很大的表,并且它的数据列可以根据需要动态增加。每一个cell中的数据又可以有多个版本(通过时间戳来区别),从下图来看,HBase还具有“向下提供存储,向上提供运算”的特点。

二、Hbase安装概述


  1. 配置hosts,确保涉及的主机名均可以解析为ip。
    若已经安装部署好hadoop,则此步已经完成。
  2. 编辑hbase-env.xml。
  3. 编辑hbase-site.xml。
  4. 编辑regionservers文件。
  5. 把Hbase复制到其它节点。
  6. 启动Hbase。
  7. 验证启动。

三、安装步骤


  1. 配置hosts,确保涉及的主机名均可以解析为ip。
    [hadoop@master ~]$ cat /etc/hosts
    10.10.18.229 master
    10.10.18.221 slave01
    10.10.19.231 slave02
    10.10.19.232 slave03
    10.10.18.230 slave04
    
    
  2. 下载安装包并解压
    [hadoop@master ~]$ wget http://www-us.apache.org/dist/hbase/stable/hbase-1.2.5-bin.tar.gz
    [hadoop@master ~]$ tar xvf hbase-1.2.5-bin.tar.gz
    
  3. 编辑环境变量
    #添加
    [hadoop@master hbase-1.2.5]$ vim ~/.bash_profile 
    export HBASE_HOME=/home/hadoop/hbase-1.2.5
    export PATH=$PATH:$HBASE_HOME/bin
    
  4. 编辑hbase-env.xml
    主要是添加JAVA_HOME环境变量
    export JAVA_HOME=/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.79.x86_64
    
  5. 编辑hbase-site.xml
    <configuration>
        <property>
            <name>hbase.rootdir</name> #设置hbase数据库存放数据的目录
            <value>hdfs://master:9000/hbase</value>
        </property>
        <property>
        <name>hbase.cluster.distributed</name>  #打开hbase分布模式
            <value>true</value>
        </property>
        <property>
            <name>hbase.master</name> #指定hbase集群主控节点
            <value>master:60000</value>
        </property>
        <property>
            <name>hbase.zookeeper.quorum</name>
            <value>master,slave01,slave02,slave03,slave04</value> #指定zookeeper集群节点名,因为是由zookeeper表决算法决定的
        </property>
        <property>
            <name>hbase.zookeeper.property.dataDir</name> #指zookeeper集群data目录
            <value>/home/hadoop/hbase-1.2.5/zookeeper</value>
        </property>
    </configuration>
    
  6. 编辑regionservers文件
    [hadoop@master conf]$ cat regionservers 
    slave01
    slave02
    slave03
    slave04
    
  7. 将修改的hbase目录同步其它节点
    [hadoop@master ~]$ scp -r hbase-1.2.5 slave01:~/
    [hadoop@master ~]$ scp -r hbase-1.2.5 slave02:~/
    [hadoop@master ~]$ scp -r hbase-1.2.5 slave03:~/
    [hadoop@master ~]$ scp -r hbase-1.2.5 slave04:~/
    
  8. 启动/关闭Hbase数据库集群
    #启动hbase之前必需检查hadoop是否已经启动
    [hadoop@master ~]$ hdfs dfsadmin -report |less
    Configured Capacity: 9508728098816 (8.65 TB)
    Present Capacity: 7003711967546 (6.37 TB)
    DFS Remaining: 5616475771026 (5.11 TB)
    DFS Used: 1387236196520 (1.26 TB)
    DFS Used%: 19.81%
    Under replicated blocks: 137
    Blocks with corrupt replicas: 0
    Missing blocks: 0
    Missing blocks (with replication factor 1): 0
    
    -------------------------------------------------
    Live datanodes (4):
    ...
    #启动Hbase集群
    [hadoop@master conf]$ start-hbase.sh 
    slave01: starting zookeeper, logging to /home/hadoop/hbase-1.2.5/bin/../logs/hbase-hadoop-zookeeper-slave01.out
    slave03: starting zookeeper, logging to /home/hadoop/hbase-1.2.5/bin/../logs/hbase-hadoop-zookeeper-slave03.out
    master: starting zookeeper, logging to /home/hadoop/hbase-1.2.5/bin/../logs/hbase-hadoop-zookeeper-master.out
    slave04: starting zookeeper, logging to /home/hadoop/hbase-1.2.5/bin/../logs/hbase-hadoop-zookeeper-slave04.out
    slave02: starting zookeeper, logging to /home/hadoop/hbase-1.2.5/bin/../logs/hbase-hadoop-zookeeper-slave02.out
    starting master, logging to /home/hadoop/hbase-1.2.5/logs/hbase-hadoop-master-master.out
    slave01: starting regionserver, logging to /home/hadoop/hbase-1.2.5/bin/../logs/hbase-hadoop-regionserver-slave01.out
    slave03: starting regionserver, logging to /home/hadoop/hbase-1.2.5/bin/../logs/hbase-hadoop-regionserver-slave03.out
    slave02: starting regionserver, logging to /home/hadoop/hbase-1.2.5/bin/../logs/hbase-hadoop-regionserver-slave02.out
    slave04: starting regionserver, logging to /home/hadoop/hbase-1.2.5/bin/../logs/hbase-hadoop-regionserver-slave04.out
    #可以看到在master上多了两个进程HQuorumPeer和HMaster
    [hadoop@master conf]$ jps
    13154 Jps
    46355 ResourceManager
    9736 RunJar
    45787 NameNode
    46090 SecondaryNameNode
    12668 HMaster
    8641 JobHistoryServer
    12559 HQuorumPeer
    #在slave节点上也多了两个进程:HQuorumPeer和HRegionServer
    [hadoop@master conf]$ ssh slave01
    Last login: Thu May  4 17:31:40 2017 from master
    [hadoop@slave01 ~]$ jps
    13244 DataNode
    15944 NodeManager
    5688 HQuorumPeer
    6057 Jps
    5800 HRegionServer
    
  9. 查看Hbase状态
    #进入Hbase shell
    [hadoop@master conf]$ hbase shell
    SLF4J: Class path contains multiple SLF4J bindings.
    SLF4J: Found binding in [jar:file:/home/hadoop/hbase-1.2.5/lib/slf4j-log4j12-1.7.5.jar!/org/slf4j/impl/StaticLoggerBinder.class]
    SLF4J: Found binding in [jar:file:/home/hadoop/hadoop-2.7.3/share/hadoop/common/lib/slf4j-log4j12-1.7.10.jar!/org/slf4j/impl/StaticLoggerBinder.class]
    SLF4J: See http://www.slf4j.org/codes.html#multiple_bindings for an explanation.
    SLF4J: Actual binding is of type [org.slf4j.impl.Log4jLoggerFactory]
    HBase Shell; enter 'help<RETURN>' for list of supported commands.
    Type "exit<RETURN>" to leave the HBase Shell
    Version 1.2.5, rd7b05f79dee10e0ada614765bb354b93d615a157, Wed Mar  1 00:34:48 CST 2017
    #可以看到,当前存在一个活动master主机,3台regionserver主机,貌似还少一台。后来发现是因为regionserver主机时间与master主机不同步,时间比master主机早了导致的。
    hbase(main):001:0> status
    1 active master, 0 backup masters, 3 servers, 0 dead, 0.3333 average load
    #安装配置ntp服务后,4个regionserver都存在了
    hbase(main):001:0> status
    1 active master, 0 backup masters, 4 servers, 0 dead, 0.5000 average load
    

相关文章

  • HBase的部署

    HBase的部署方式包括: HBase的安装 本文的HBase安装是在Hadoop已经安装好的基础上实现的,所以之...

  • 4.搭建HBase

    Hbase安装部署基本步骤: 1、在Hadoop配置的基础上,配置环境变量HBASE_HOME、hbase-env...

  • opentsdb+hbase的安装部署

    以下安装部署都是在centos 7系统下安装部署的。 OpenTSDB是基于HBase存储时间序列数据的一...

  • Module-Hbase技术文档

    Hbase技术文档.md tags: 大数据 底层存储 分布式 Hbase 2019年 安装部署 环境依赖说明: ...

  • 玩转大数据之HBase

    HBase版本:我们使用1.2.4的版本 HBase安装模式: 单机部署:单台机器安装,相关服务进程运行在一个JV...

  • HBase安装部署

    Zookeeper正常部署 首先保证Zookeeper集群的正常部署,并启动之: Hadoop正常部署 Hadoo...

  • Hbase安装部署

    一、Hbase简介 HBase是Apache Hadoop的数据库,能够对大型数据提供随机、实时的读写访问,是Go...

  • HBase安装部署

    一、概述HBase是一个高可用、高性能、面向列、可伸缩的分布式存储系统。适合存储大表数据。二、安装准备1、Hado...

  • hadoop+hbase部署,phoeni的安装和使用(二)

    1. Hbase的部署(单机) 1.1 下载安装 将下载的 hbase-1.2.2-bin.tar.gz 文件解压...

  • 尚硅谷大数据技术之HBase

    第2章 HBase安装 2.1 Zookeeper正常部署 首先保证Zookeeper集群的正常部署,并启动之: ...

网友评论

      本文标题:Hbase安装部署

      本文链接:https://www.haomeiwen.com/subject/aabalqtx.html