HBase集成MapReduce

作者: 明明德撩码 | 来源:发表于2018-05-06 00:09 被阅读29次

HBase集成MapReduce配置

HBase与MapReduce集成时是需要jar包的,加载步骤如下:
  • 可以通过bin/hbase maperduce命令查看。如图所示,为集成需要的jar包。
[beifeng@hadoop-senior hbase-0.98.6-hadoop2]$ bin/hbase mapredcp
  • 设置HBase、Hadoop环境变量
export HADOOP_HOME=/opt/cdh5.3.6/hadoop-2.5.0-cdh5.3.6
export HBASE_HOME=/opt/sofewares/hbase/hbase-0.98.6-hadoop2

HBase集成MapReduce入门

HBase默认集成的一些MapReduce程序,都在hbase-server-0.98.6-haddop2.jar这个包里面。
  • cellcounter:统计HBASE表中有多少个cells的个数
  • rowcounter:统计hbase中有多少条数据
  • 步骤如下:
    1、启动resourcemanager
    2、启动nodemanager
    3、启动historyserver
  • 运行rowcounter
HADOOP_CLASSPATH=`${HBASE_HOME}/bin/hbase mapredcp`  $HADOOP_HOME/bin/yarn jar  $HBASE_HOME/lib/hbase-server-0.98.6-hadoop2.jar rowcounter user

注意HADOOP_CLASSPATH 的值中包含反勾号`。反引号的作用就是将反引号内的Linux命令先执行,然后将执行结果赋予变量

结果: image.png

相关文章

网友评论

    本文标题:HBase集成MapReduce

    本文链接:https://www.haomeiwen.com/subject/bslyrftx.html