美文网首页
hive搭建

hive搭建

作者: Gavin_hello | 来源:发表于2018-02-26 15:49 被阅读0次

一:简介

Hive是基于Hadoop构建的一套数据仓库分析系统,它提供了丰富的SQL查询方式来分析存储在Hadoop 分布式文件系统中的数据。其在Hadoop的架构体系中承担了一个SQL解析的过程,它提供了对外的入口来获取用户的指令然后对指令进行分析,解析出一个MapReduce程序组成可执行计划,并按照该计划生成对应的MapReduce任务提交给Hadoop集群处理,获取最终的结果。元数据——如表模式——存储在名为metastore的数据库中。

二:hive搭建

[root@hadoop0 conf]# vi /etc/profile

添加如下内容:
export HIVE_HOME=/home/ranrl/opt/hive-2.1.1 
export HIVE_CONF_DIR=$HIVE_HOME/conf 
export PATH=\$PATH:\$HIVE_HOME/bin
  • hive元数据储存(mysql数据库搭建)
    搭建mysql数据库,创建hive用户和数据库

  • 修改配置文件

[root@hadoop0 conf]#cp hive-default.xml.template hive-site.xml
[root@hadoop0 conf]# vi hive-site.xml

修改内容如下:

<configuration>
    <property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://192.168.1.27:23308/hive?createDatabaseIfNotExist=true</value>
        <description>JDBC connect string for a JDBC metastore</description>    
    </property>   
    <property> 
        <name>javax.jdo.option.ConnectionDriverName</name> 
        <value>com.mysql.jdbc.Driver</value> 
        <description>Driver class name for a JDBC metastore</description>     
    </property>               

    <property> 
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>hive</value>
        <description>username to use against metastore database</description>
    </property>
    <property>  
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>hive</value>
        <description>password to use against metastore database</description>  
    </property>          
</configuration>
  • 下载mysql-connector-java
    地址:https://dev.mysql.com/downloads/connector/j/
    解压得到mysql-connector-java-5.1.40.jar,拷贝到hive的lib目录下

  • 创建元数据表
    在进入hive目录下的bin目录,运行命令:./schematool -initSchema -dbType mysql

  • 运行hive

[root@hadoop0 conf]#hive

问题:

1.[ERROR] Terminal initialization failed; falling back to unsupported


原因是hadoop目录下存在老版本jline:

/hadoop-2.5.2/share/hadoop/yarn/lib:

-rw-r--r-- 1 root root   87325 Mar 10 18:10 jline-0.9.94.jar

 

解决方法是:

将hive下的新版本jline的JAR包拷贝到hadoop下:

cp /hive/apache-hive-1.1.0-bin/lib/jline-2.12.jar ./

相关文章

  • 21.1Hive复习

    Hive hive是数据仓库,用途:分析,决策类影响hive搭建 注意,搭建是按照元数据的存储和管理进行搭建的 搭...

  • 07_hive_搭建_启动_使用

    [TOC] 1. 搭建hive 1.1 上传hive安装包 上传apache-hive-1.2.1-bin.tar...

  • Hive安装与简单使用并集成SparkSQL

    Hive环境搭建 hive下载:http://archive-primary.cloudera.com/cdh5/...

  • Hive搭建

    Hive搭建 系统环境: Ubuntu 16 Java 8 Hadoop 2.7 Hive 1.2 MySQL 按...

  • Spark SQL:使用数据源之使用Hive Table

    一.使用Hive Table(把Hive中的数据,读取到Spark SQL 中) 1.首先,搭建Hive的环境(分...

  • 搭建单机hive环境

    搭建单机hive环境 本文假设搭建的路径在/opt/sh路径,并已经下载hive安装包及hadoop安装包 htt...

  • [hive]FAILED: SemanticException

    hive的注意事项 ------------------ 如果配置hadoop HA之前,搭建了Hive的话,在H...

  • Hive安装部署

    一、简介 Hive官网[https://hive.apache.org] 二、搭建 准备 Hadoop集群(必须搭...

  • Hive架构及搭建方式

    Hive架构及搭建方式 [TOC] 前言 本文档基于hive 3.1.2编写 hive的基础知识 基本架构 整个h...

  • Hive环境搭建

    基于三节点的Hadoop集群搭建Hive 安装中前的准备 先要搭建好hadoop集群 安装中用到的软件: hive...

网友评论

      本文标题:hive搭建

      本文链接:https://www.haomeiwen.com/subject/jjccxftx.html