美文网首页Hive数仓
hive7:Hive集成Tez

hive7:Hive集成Tez

作者: 勇于自信 | 来源:发表于2020-08-19 09:01 被阅读0次
1.安装包准备

1)下载tez的依赖包:http://tez.apache.org
2)拷贝apache-tez-0.9.1-bin.tar.gz到/usr/local/src目录下
3)将apache-tez-0.9.1-bin.tar.gz上传到HDFS的/tez目录下
[root@master src]# hadoop fs -mkdir /tez
[root@master src]# hadoop fs -put apache-tez-0.9.1-bin.tar.gz /tez
4)解压缩apache-tez-0.9.1-bin.tar.gz
[root@master src]# tar -zxvf apache-tez-0.9.1-bin.tar.gz
5)修改名称
[root@master src]# mv apache-tez-0.9.1-bin tez-0.9.1

2.集成Tez

1)进入到Hive的配置目录
/usr/local/src/hive/conf

2)在Hive的conf目录下创建一个tez-site.xml文件
vim tez-site.xml:

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <property>
        <name>tez.lib.uris</name>
        <value>${fs.defaultFS}/tez/apache-tez-0.9.1-bin.tar.gz</value>
    </property>
    <property>
        <name>tez.use.cluster.hadoop-libs</name>
        <value>true</value>
    </property>
    <property>
        <name>tez.history.logging.service.class</name>
        <value>org.apache.tez.dag.history.logging.ats.ATSHistoryLoggingService</value>
    </property>
</configuration>

3)在hive-env.sh文件中添加tez环境变量配置和依赖包环境变量配置
vim hive-env.sh

export TEZ_HOME=/usr/local/src/tez-0.9.1/
export TEZ_JARS=""
for jar in `ls $TEZ_HOME |grep jar`; do
    export TEZ_JARS=$TEZ_JARS:$TEZ_HOME/$jar
done
for jar in `ls $TEZ_HOME/lib`; do
    export TEZ_JARS=$TEZ_JARS:$TEZ_HOME/lib/$jar
done
export HIVE_AUX_JARS_PATH=/usr/local/src/hadoop-2.7.3/share/hadoop/common/hadoop-lzo-0.4.21-SNAPSHOT.jar$TEZ_JARS

4)在hive-site.xml文件中添加如下配置,更改hive计算引擎:

<property>
    <name>hive.execution.engine</name>
    <value>tez</value>
</property> 
3.测试

1)启动Hive
2)创建表
create table student(
id int,
name string);
3)向表中插入数据
insert into student values(1,"zhangsan");
4)如果没有报错就表示成功了
select * from student;
如果插入时出现以下错误:


问题解决:
1)关掉虚拟内存检查,修改yarn-site.xml
<property>
<name>yarn.nodemanager.vmem-check-enabled</name>
<value>false</value>
</property>
2)修改后一定要分发,并重新启动Hadoop集群
再次插入数据:


注意版本:本人使用的环境版本:
Hadoop:2.7.3
Hive:2.3.0
tez:0.9.1
mysql-connector-java:5.1.27

相关文章

  • hive7:Hive集成Tez

    1.安装包准备 1)下载tez的依赖包:http://tez.apache.org2)拷贝apache-tez-0...

  • Hive+LLap+Tez问题

    问题描述 使用Hive+LLap+Tez的方式执行hql,配置好hive.execution.engine=tez...

  • Hive on Tez 典型日志内容

    Hive on Tez 典型日志内容

  • Hive 入门

    Hive官网 Hive概述 Hive 的底层执行引擎有 :MapReduce,Tez,Spark- Hive on...

  • Hive on Spark配置

    1. Hive引擎简介 Hive引擎包括:默认MR、tez、sparkHive on Spark:Hive既作为存...

  • HIVE

    --------hive 数据仓库 hive底层执行引擎有 MapReduce Tez Spark 压缩 GZI...

  • Hive on Tez

    Hortonworks 在2014年左右发布了 Stinger Initiative,并进行社区分享,为的是让 H...

  • Hive on Tez 中 Map 任务的数量计算

    Hive on Tez 中的Mapper 数量计算 在Hive 中执行一个query时,我们可以发现Hive 的执...

  • hive on tez 步骤

    1.下载tez src 解压,修改pom.xml,将hadoop.version改为2.7.2,最好用非root用...

  • hive 使用tez

    1,编译tez 见https://www.jianshu.com/p/b2569796dd27 2,将 编译后的t...

网友评论

    本文标题:hive7:Hive集成Tez

    本文链接:https://www.haomeiwen.com/subject/llzkjktx.html