美文网首页大数据大数据,机器学习,人工智能Hadoop
Hive和Hbase的整合,实现Hive读取Hbase数据的目的

Hive和Hbase的整合,实现Hive读取Hbase数据的目的

作者: lukeyan | 来源:发表于2018-07-05 23:42 被阅读13次

    一、版本信息和环境

    1、版本信息(全是Apache版本):

    hadoop-2.6.0

    hbase-1.2.6.1

    apache-hive-1.1.0-bin

    2、环境:

    hadoop+hive+hbase的伪分布,前提是hadoop、hive和hbase均已配置完毕可以正常启动。

    本文章主要目的是在此基础之上,完成hive和Hbase的整合使得hive能够操作Hbase的数据表

    二、配置步骤: 

    1、配置/opt/hive/conf/hive-env.sh

    vim /opt/hive/conf/hive-env.sh

    2、配置/opt/hive/conf/hive-site.xml

    vim /opt/hive/conf/hive-site.xml

    3、编译hive-hbase-handler.jar包

    由于hive-1.1.0自带的hive-hbase-handler-1.1.0.jar与hbase-1.2.6.1不兼容,因为需要根据hbase-1.2.6.1重新hive-hbase-handler.jar包编译

    编译准备:

    hbase-1.2.6.1-bin.tar.gz(需要lib下的jar包作为依赖)

    apache-hive-1.1.0-bin.tar.gz(需要lib下的jar包作为依赖)

    apache-hive-1.1.0-src.tar.gz(找到源码当中的hbase-handler进行编译)

    将三个包分别解压

    编译过程:

    使用IDEA进行编译,具体步骤如下:

    1、从apache-hive-1.1.0-src源码包中导入hbase-handler源码,注意导入文件夹为java如图

    然后一直next,最后点击finish

    然后点击ok,再点击ok

    然后点击ok,再点击ok

    然后,把上图中hbase-handler.jar上传到/opt/hive/lib目录下就ok

    三、验证

    进入hive,界面创建Hbase数据表

    进入hbase shell,查看数据库表是否生成

    验证成功!!!!!!!!!!!

    相关文章

      网友评论

        本文标题:Hive和Hbase的整合,实现Hive读取Hbase数据的目的

        本文链接:https://www.haomeiwen.com/subject/pfdmuftx.html