美文网首页大数据学习
Hive开发环境搭建

Hive开发环境搭建

作者: 袭明 | 来源:发表于2018-06-05 19:02 被阅读36次

1. 安装Hive

1.1准备工作
1.2 开始安装步骤
  • 1.安装到hadoop的namenode上,即主节点上,拷贝文件到linux 中的/usr/local/Hive 目录下。
  • 2.解压【tar -zxvf apache-hive-2.3.3-bin.tar.gz】
  • 3.添加环境变量

【vim /etc/profile】

编辑

# Hive
export HIVE_HOME=/usr/local/Hive/apache-hive-2.3.3-bin
export PATH=$PATH:$HIVE_HOME/bin

保存后使其生效:【source /etc/profile】

2. 安装mysql作为hive的Metastore

在linux安装mysql的文章日后单独补充

3. 配置Hive

3.1 准备工作

linux开启hdfs,yarn

start-dfs.sh
start-yarn.sh

jps指令确保相关服务全都开启


QQ截图20180604224831.png
3.2 开始配置
  • 1.在hdfs中新建目录 /user/hive/warehouse
hdfs dfs -mkdir -p /user/hive/warehouse
hadoop fs -chmod g+w /tmp
hadoop fs -chmod g+w /user/hive/warehouse

进入hive的conf目录下复制hive-default.xml.template,名字命名为 hive-site.xml

cp hive-default.xml.template hive-site.xml

具体配置如下

<property>
    <name>javax.jdo.option.ConnectionURL</name>
    <value>jdbc:mysql://127.0.0.1:3306/hive?createDatabaseIfNotExist=true&amp;useSSL=false</value>
    <description>JDBC connect string for a JDBC metastore</description>
  </property>
  <property>
    <name>javax.jdo.option.ConnectionDriverName</name>
    <value>com.mysql.jdbc.Driver</value>
    <description>Driver class name for a JDBC metastore</description>
  </property>
  <property>
    <name>javax.jdo.option.ConnectionUserName</name>
    <value>root</value>
    <description>Username to use against metastore database</description>
  </property>
  <property>
    <name>javax.jdo.option.ConnectionPassword</name>
    <value>123456</value>
    <description>password to use against metastore database</description>
  </property>
  
  <property>
    <name>hive.exec.local.scratchdir</name>
    <value>/usr/local/Hive/apache-hive-2.3.3-bin/tmp</value>
    <description>Local scratch space for Hive jobs</description>
  </property>
  <property>
    <name>hive.downloaded.resources.dir</name>
    <value>/usr/local/Hive/apache-hive-2.3.3-bin/tmp/resources</value>
    <description>Temporary local directory for added resources in the remote file system.</description>
  </property>
  <property>
    <name>hive.querylog.location</name>
    <value>/usr/local/Hive/apache-hive-2.3.3-bin/tmp</value>
    <description>Location of Hive run time structured log file</description>
  </property>
  <property>
    <name>hive.server2.logging.operation.log.location</name>
    <value>/usr/local/Hive/apache-hive-2.3.3-bin/tmp/operation_logs</value>
    <description>Top level directory where operation logs are stored if logging functionality is enabled</description>
  </property>
  • 4.使用schematool初始化metastore 的schema
schematool -initSchema -dbType mysql 

若格式化失败,删掉默认的hive数据库,重新执行初始化命令

5. 安装Beeline CLI

推荐:SQuirrel SQL Client

若网站无法打开,可以在在百度网盘下载:
链接:https://pan.baidu.com/s/1V2Kt9WmPFi8G13VTdXnCXQ 密码:jygl

连接比较简单就这几步:

QQ截图20180605184634.png QQ截图20180605184752.png

完!


深圳湾公园

相关文章

  • Hive开发环境搭建

    1. 安装Hive 1.1准备工作 Hive官网:https://hive.apache.org/ 下载hive,...

  • Hive安装与简单使用并集成SparkSQL

    Hive环境搭建 hive下载:http://archive-primary.cloudera.com/cdh5/...

  • Hive搭建

    Hive搭建 系统环境: Ubuntu 16 Java 8 Hadoop 2.7 Hive 1.2 MySQL 按...

  • Spark SQL:使用数据源之使用Hive Table

    一.使用Hive Table(把Hive中的数据,读取到Spark SQL 中) 1.首先,搭建Hive的环境(分...

  • hive 相关

    hive 相关 搭建hadoop和hive,mysql的环境,过程截图 1.hadoop install 2.m...

  • URule在保险行业中的应用(二、开发实现篇1)

    本篇主要实现URule开发环境的搭建和创建项目。 1)开发环境搭建 开发前需先搭建URule开发环境,搭建方法步骤...

  • 搭建Hive环境

    下载hive:wget http://archive.cloudera.com/cdh5/cdh/5/hive-1...

  • 搭建hive环境

    1.安装java 安装成功后,使用下面的命令来验证是否已经安装java 如果安装成功,则可以看到如下回应: bas...

  • hive环境搭建

    Hive2.1.1安装部署 一、Hive 运行模式 与Hadoop类似,Hive也有 3 种运行模式: 1. 内嵌...

  • Hive环境搭建

    介绍 Hive是运行在Hadoop之上的数据仓库,将结构化的数据文件映射为一张数据库表,提供简单类SQL查询语言,...

网友评论

    本文标题:Hive开发环境搭建

    本文链接:https://www.haomeiwen.com/subject/ikumsftx.html