tez0.9.0安装

作者: 后端老鸟 | 来源:发表于2017-12-20 00:53 被阅读0次

【转载请注明出处】:https://www.jianshu.com/p/6fff20b91d4a

1.安装说明

Tez 0.8.3+要求Hadoop2.6.0+
Tez 0.9.0+要求Hadoop2.7.0+
JDK8+
Maven 3+
Protocol Buffers 2.5.0

2.下载源码

http://mirrors.hust.edu.cn/apache/tez/0.9.0/apache-tez-0.9.0-src.tar.gz

3.编译

mvn clean package -DskipTests=true -Dmaven.javadoc.skip=true -Dtar

image.png

编译完的压缩包在tez-dist/target目录下


image.png

4.将tez-0.9.0.tar.gz拷贝至hdfs

hadoop fs -mkdir -p /apps/tez-0.9.0
hadoop fs -put tez-dist/target/tez-0.9.0.tar.gz /apps/tez-0.9.0

5. 将压缩包解压到某个目录,并创建配置文件tez-site.xml

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
<property>
<name>tez.lib.uris</name>
<value>${fs.defaultFS}/apps/tez-0.9.0/tez-0.9.0.tar.gz</value>
</property>
</configuration>

6.配置环境变量

export TEZ_HOME=/work/tools/hdp/tez-0.9.0
export TEZ_CONF_DIR=TEZ_HOME/conf export TEZ_JARS=TEZ_HOME

7.修改$HADOOP_CONF_DIR/mapred-site.xml文件

修改

<property>
   <name>mapreduce.framework.name</name>
   <value>yarn-tez</value>
</property>

添加

<property>
   <name>mapreduce.map.output.compress</name>
   <value>false</value>
</property>

8.修改$HADOOP_CONF_DIR/hadoop-env.sh 文件

添加

export TEZ_HOME={TEZ_HOME} export HADOOP_CLASSPATH={HADOOP_CLASSPATH}:{TEZ_JARS}/\*:{TEZ_JARS}/lib/*:${TEZ_CONF_DIR}

9.修改$HIVE_CONF_DIR/hive-site.xml文件

添加

<property>
   <name>hive.execution.engine</name>
   <value>tez</value>
</property>

10.测试

hadoop jar tez-examples-0.9.0.jar orderedwordcount /input /output

image.png

开始的时候,在测试的过程中遇到一个问题:
Container exited with a non-zero exit code 127. Error file: prelaunch.err.
Last 4096 bytes of prelaunch.err :
Last 4096 bytes of stderr :
/bin/bash: /bin/java: No such file or directory


image.png

解决办法:
修改HADOOP_HOME/libexec/hadoop-config.sh

if [ -x /usr/libexec/java_home ]; then
export JAVA_HOME=($(/usr/libexec/java_home))
else
export JAVA_HOME=(/Library/Java/Home)
fi

修改为

if [ -x /usr/libexec/java_home ]; then
export JAVA_HOME=$(/usr/libexec/java_home)
else
export JAVA_HOME=/Library/Java/Home
fi

【转载请注明出处】:https://www.jianshu.com/p/6fff20b91d4a

相关文章

网友评论

    本文标题:tez0.9.0安装

    本文链接:https://www.haomeiwen.com/subject/xqfuixtx.html