美文网首页
Hbase数据的备份、迁移、导入、导出和还原

Hbase数据的备份、迁移、导入、导出和还原

作者: 萍水相逢心愿一生 | 来源:发表于2019-05-28 09:55 被阅读0次

    写在前面:
    因工作需求配置了一套zookeeper、hbase、hadoop、Phoenix的环境,需要对Hbase数据进行一系列的操作,才有了此文章的产生,写的不好,请大家多多指教!!!!!

    1、看

    看什么呢?看Hadoop下yarn-site.xml文件中有没有配置以下信息:

    <property>
        <name>yarn.resourcemanager.address</name>
        <value>bogon:8032</value>
      </property>
      <property>
        <name>yarn.resourcemanager.scheduler.address</name>
        <value>bogon:8030</value>
      </property>
      <property>
        <name>yarn.resourcemanager.resource-tracker.address</name>
        <value>bogon:8031</value>
      </property>
    

    如果没有配置,请务必加上去,不然会报:一直在等待链接的异常消息。注意:bogon这个为本机的电脑名称。
    异常信息:
    RetryUpToMaximumCountWithFixedSleep(maxRetries=10, sleepTime=1 SECONDS)
    14/08/21 10:41:20 INFO ipc.Client: Retrying connect to server: 0.0.0.0/0.0.0.0:8032. Already tried 1 time(s); retry policy is

    2、看

    看datanode 和namenode/current 文件夹下VERSION中clusterID是否一致,如果不一致,务必要改成一致的,不然会出现以下异常。
    could only be replicated to 0 nodes instead of minReplication (=1)

    3、执行

    执行导出操作的命令:

    hbase org.apache.hadoop.hbase.mapreduce.Export PERSON /opt/hbase-data-back/test_table_back 
    

    导出代码解释:
    hbase org.apache.hadoop.hbase.mapreduce.Export 导出方法
    PERSON 表名 可根据实际情况进行修改
    /opt/hbase-data-back/test_table_back 导出文件存放的路径 可根据实际情况进行修改

    4、备份(复制)

    将hdfs中的/opt/hbase-data-back/test_table_back,复制到系统的/opt/hbase-data-back/test_table_back中
    例如:

    hadoop fs -get /opt/hbase-data-back/test_table_back /opt/hbase-data-back/test_table_back
    
    5、上传(HDFS)

    hadoop fs -put localFile hdfsFile 通过put命令将本地文件上传到hdfs中去
    例如:

    hadoop fs -put /opt/hbase-data-back/test_table_back  /opt/hbase-data-back/test_table_back2
    
    6、查看文件夹下的内容

    hadoop fs -ls 文件地址
    看看是否上传上去,检查上传命令是否执行成功

    7、导入的准备工作

    1)、创建一个与导入数据格式相同的表

    8、

    命令:hbase org.apache.hadoop.hbase.mapreduce.Import SPERSON /opt/hbase-data-back/test_table_back
    命令解析:
    hbase org.apache.hadoop.hbase.mapreduce.Import 导出方法
    SPERSON 表名 可根据实际情况修改
    /opt/hbase-data-back/test_table_back 导出文件存放的路径 可根据实际情况进行修改

    9、查看表中的内容

    scan ‘SPERSON’ 看数据是否丢失

    10、 大数据量导出

    解决方法:修改mapred-site.xml中的配置,设置map和reduce任务的内存配置如下:(value中实际配置的内存需要根据自己机器内存大小及应用情况进行修改)

    <property>
    <name>mapreduce.map.memory.mb</name>
    <value>1536</value>
    </property>
    
    <property>
    <name>mapreduce.map.java.opts</name>
    <value>-Xmx1024M</value>
    </property>
    
    <property>
    <name>mapreduce.reduce.memory.mb</name>
    <value>3072</value>
    </property>
    
    <property>
    <name>mapreduce.reduce.java.opts</name>
    <value>-Xmx2560M</value>
    </property>
    

    相关文章

      网友评论

          本文标题:Hbase数据的备份、迁移、导入、导出和还原

          本文链接:https://www.haomeiwen.com/subject/fbqrtctx.html