美文网首页
hive2.1.1部署记录

hive2.1.1部署记录

作者: 辉耀辉耀 | 来源:发表于2017-07-21 15:42 被阅读0次

参考了网上很多的文档,终于部署成功,记录下来方便大家
本文衔接《hadoop2.7.3部署记录》http://www.jianshu.com/p/07d6d93c0009
上文有过的部署将不再赘述。


hive部署

1.下载hive安装包apache-hive-2.1.1-bin.tar.gz

[root@master src]# wget http://apache.mirror.gtcomm.net/hive/hive-2.1.1/apache-hive-2.1.1-bin.tar.gz

2.解压并重命名为hive-2.1.1

[root@master src]# tar -zxvf apache-hive-2.1.1-bin.tar.gz -C /opt
[root@master opt]# mv apache-hive-2.1.1-bin/ hive-2.1.1

3.修改环境变量并使配置生效

[root@master opt]# vi /etc/profile
export HIVE_HOME=/opt/hive-2.1.1
export PATH=$PATH:$HIVE_HOME/bin
[root@master opt]# source /etc/profile

4.设置hive配置文件

[root@master opt]# cd hive-2.1.1/
[root@master hive-2.1.1]# cd conf/
[root@master conf]# cp hive-log4j2.properties.template hive-log4j2.properties
[root@master conf]# vi hive-log4j2.properties.template 
property.hive.log.dir = /opt/hive-2.1.1/logs/

5.启动hive

[root@master hive-2.1.1]# schematool -dbType derby -initSchema
[root@master hive-2.1.1]# hive
此时Hive安装成功

默认情况下,Hive的元数据保存在了内嵌的derby数据库里,但一般情况下生产环境使用MySQL来存放Hive元数据。

6.安装MySQL(需要给root用户远程登录的权限,SQL语句为grant all on . to root@'%' identified by 'passwd';)
下载MySQL驱动

[root@master opt]# wget https://dev.mysql.com/get/Downloads/Connector-J/mysql-connector-java-5.1.42.tar.gz

MySQL安装可参照http://www.jianshu.com/p/4699bcb04633(仅需要参考MYSQL部分即可)

[root@master opt]# tar zxvf mysql-connector-java-5.1.42.tar.gz
[root@master opt]# mv mysql-connector-java-5.1.42/mysql-connector-java-5.1.42-bin.jar hive-2.1.1/lib/

7.修改Hive配置文件

[root@master opt]# cd hive-2.1.1/conf/
[root@master conf]# cp hive-default.xml.template hive-site.xml
[root@master conf]# vi hive-site.xml
将hive-site.xml文件中的全部${system:java.io.tmpdir}替换为hive的临时目录,例如我替换为/opt/hive/tmp,该目录如果不存在则要自己手工创建,并且赋予读写权限。
将hive-site.xml文件中的全部${system:user.name}都替换为root

修改数据库相关配置,搜索javax.jdo.option.ConnectionURL

<name>javax.jdo.option.ConnectionURL</name>  
    <value>jdbc:mysql://10.22.4.31:3306/hive?createDatabaseIfNotExist=true</value>

修改MYSQL用户名,搜索javax.jdo.option.ConnectionUserName

<name>javax.jdo.option.ConnectionUserName</name>
    <value>root</value>```
修改MYSQL密码,搜索javax.jdo.option.ConnectionPassword
<name>javax.jdo.option.ConnectionPassword</name>
<value>passwd</value>```

搜索hive.metastore.schema.verification,将对应的value修改为false:

    <name>hive.metastore.schema.verification</name>
    <value>false</value>```
    

[root@master hive-2.1.1]# cp /opt/hive-2.1.1/conf/hive-env.sh.template /opt/hive-2.1.1/conf/hive-env.sh
[root@master hive-2.1.1]# vi /opt/hive-2.1.1/conf/hive-env.sh
export HADOOP_HOME=/opt/hadoop-2.7.3
export HIVE_CONF_DIR=/opt/hive-2.1.1/conf
export HIVE_AUX_JARS_PATH=/opt/hive-2.1.1/lib

初始化数据库,执行成功后,mysql内会增加hive库和诸多表。

[root@master bin]# schematool -dbType mysql -initSchema

hive> show functions;
OK
Time taken: 0.664 seconds, Fetched: 237 row(s)
hive> desc function sum;
OK
sum(x) - Returns the sum of a set of numbers
Time taken: 0.005 seconds, Fetched: 1 row(s)
hive> use db_hive_edu;
OK
Time taken: 0.011 seconds
hive> create table student(id int,name string) row format delimited fields terminated by '\t';
OK
Time taken: 0.184 seconds
hive>

开启另一个终端

[root@master conf]# vim /opt/hive/student.txt
001 zhangsan
002 lisi
003 wangwu
004 zhaoliu
005 chengqi

回到之前的终端

hive> load data local inpath '/opt/hive/student.txt' into table db_hive_edu.student;
Loading data to table db_hive_edu.student
OK
hive> select * from student;
OK
1 zhangsan
2 lisi
3 wangwu
4 zhaoliu
5 chengqi
Time taken: 0.671 seconds, Fetched: 5 row(s)

######浏览器访问http://10.22.4.31:50070/explorer.html#/user/hive/warehouse/db_hive_edu.db/student


![hive1.png](https://img.haomeiwen.com/i5314324/afd115c9e574b146.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)



![hive2.png](https://img.haomeiwen.com/i5314324/e8b6fc6555223267.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

相关文章

  • hive2.1.1部署记录

    参考了网上很多的文档,终于部署成功,记录下来方便大家本文衔接《hadoop2.7.3部署记录》http://www...

  • hive环境搭建

    Hive2.1.1安装部署 一、Hive 运行模式 与Hadoop类似,Hive也有 3 种运行模式: 1. 内嵌...

  • ELK安装

    记录一下ELK部署过程 一、部署ElasticSearch 下载解压ElasticSearch 1.部署maste...

  • 2022-04-07

    jenkins安装部署记录 docker方式部署: docker pull jenkins/jenkins 报错f...

  • docker 常用部署Demo

    在此记录常用Docker 部署项目的几个Demo ,学习总结,同时方便后期提高部署项目速度。 Docker 部署 ...

  • kubernetes集群搭建十一:测试

    部署应用 执行 查看 验证 错误记录

  • Mac OS 使用virtualenv部署python tens

    Tensorflow部署 Tensorflow这么强大,直到今天我才开始尝试使用,记录在mac上部署Tensorf...

  • Spring Boot 热部署

    SpringBoot 在开发时通常会用到热部署,记录网址以便查阅 springboot热部署方法

  • Walle部署记录

    利用walle发布项目流程: 1.设定一个宿主主机用于拉取git或svn 2.目标发布主机 3.git配置项目,本...

  • Django 部署记录

    前段时间弄了个 Django 的程序,为了在服务器上跑起来,花费了不少的时间搜索相关内容,现在记录下来。 运行条件...

网友评论

      本文标题:hive2.1.1部署记录

      本文链接:https://www.haomeiwen.com/subject/vjjekxtx.html