美文网首页
任务调度-Oozie的安装

任务调度-Oozie的安装

作者: neo_ng | 来源:发表于2018-10-20 18:36 被阅读30次

Oozie的安装

(0)前提条件:

maven3.5.0 Mysql5.7.19-0ubuntu0.16.04.1 tomcat7.0.79
sudo apt install maven

(1)编译

在本地执行
4.3版本才支持jdk1.8
在根目录的pom.xml中修改组建的版本
<pre><code class="shell">
./mkdistro.sh -DskipTests // 执行编译脚本
</code></pre>
成功:
Oozie distro created, DATE[2017.11.14-03:19:01GMT] VC-REV[unavailable], available at [/home/ginger/oozie-4.3.0-src/oozie-4.3.0/distro/target]

(2)安装oozie server

将oozie-4.0.1目录下的distro/target目录下的oozie-4.0.1-distro.tar.gz解压至/usr/local/package目录下
然后解压下面三个文件夹
<pre><code class="shell">
tar -zxvf oozie-client-4.2.0.tar.gz
tar -zxvf oozie-examples.tar.gz // oozie官方实例
tar -zxvf oozie-sharelib-4.2.0.tar.gz
</code></pre>

(3)创建libetx文件夹, 生成war包

移动hadoop的jar到指定目录:
mkdir /usr/local/package/oozie-4.3.0/libetx
cp {HADOOP_INSTALL}/share/hadoop//.jar libext/
cp {HADOOP_INSTALL}/share/hadoop//lib/.jar libext/

下载ext2.2.zip 并移动到该目录下
<pre><code class="shell">
bin/oozie-setup.sh prepare-war // 生成war包 需安装sudo
</code></pre>

(4)配置oozie环境变量,修改配置文件

<pre><code class="shell">
oozie配置文件oozie-site.xml修改如下:
export OOZIE_HOME=/usr/local/package/oozie-4.3.0
export CATALINA_HOME=/usr/local/package/oozie-4.3.0/oozie-server
export PATH={CATALINA_HOME}/bin:{OOZIE_HOME}/bin:$PATH
export OOZIE_URL=http://10.101.12.23:11000
export OOZIE_CONFIG=/usr/local/package/oozie-4.3.0/conf
</code></pre>

(5)创建 sharelib:

<pre><code class="shell">
bin/oozie-setup.sh sharelib create -fs hdfs://localhost:9000 /localpath
</code></pre>

查看sharelib是否正确配置:
<pre><code class="shell">
oozie admin -oozie http://localhost:11000/oozie -shareliblist
</code></pre>

(6)配置mysql数据库,建表

先建表: create database oozie;
在bin目录下执行:
<pre><code class="shell">
bin/ooziedb.sh create -sqlfile oozie.sql // 生成数据库脚本文件
bin/oozie-setup.sh db create -run -sqlfile oozie.sql //
</code></pre>
建表
移动jdbc到指定目录
<pre><code class="shell">
cp mysql-connector-java-5.1.44/mysql-connector-java-5.1.44-bin.jar /usr/local/package/oozie-4.3.0/lib
</code></pre>

(7)修改hadoop配置文件(namenode的core-site.xml)

添加如下配置:

<property>  
    <name>hadoop.proxyuser.oozie.hosts</name>  
    <value>*</value>  
</property>  
<property>  
    <name>hadoop.proxyuser.oozie.groups</name>  
    <value>*</value>  
</property> 

不重启刷新hadoop配置的命令:
<pre><code class="shell">
hdfs dfsadmin -refreshSuperUserGroupsConfiguration
yarn rmadmin -refreshSuperUserGroupsConfiguration
</code></pre>

(8)启动oozie并检查状态:

bin/oozied.sh start
查看运行状态:
<pre><code class="shell">
bin/oozie admin -oozie http://localhost:11000/oozie -status
</code></pre>

相关文章

  • 尚硅谷大数据技术之Oozie

    4.3 案例三:Oozie调度MapReduce任务目标:使用Oozie调度MapReduce任务分步执行:1)找...

  • 任务调度-Oozie的安装

    Oozie的安装 (0)前提条件: maven3.5.0 Mysql5.7.19-0ubuntu0.16.04.1...

  • 任务调度引擎oozie

    oozie的一些知识点: oozie的工作流:workflow,Coordinator,Bundle oozie的...

  • 尚硅谷大数据技术之Oozie

    第4章 Oozie的使用4.1 案例一:Oozie调度shell脚本目标:使用Oozie调度Shell脚本分步实现...

  • Oozie的使用

    案例一:Oozie调度shell脚本 目标:使用Oozie调度Shell脚本分步实现: 创建工作目录 在oozie...

  • 尚硅谷大数据技术之Oozie

    4.4 案例四:Oozie定时任务/循环任务目标:Coordinator周期性调度任务分步实现:1) 配置Lin...

  • 工作流调度引擎---Oozie

    一. Oozie简介 Apache Oozie是用于Hadoop平台的一种工作流调度引擎。 作用 统一调度ha...

  • oozie

    what's oozie? oozie 是一个定时调度工具 先理解oozie的三个概念,workflow(工作流)...

  • 任务调度-DAG和Oozie基础

    本文主要内容 有向无环图 拓扑排序 Oozie 有向无环图 什么是有向无环图 有向无环图(Directed Acy...

  • 定时任务调度——oozie总结

    简介 (翻译自官网) Oozie是一个用于管理Apache Hadoop作业的工作流调度程序系统。 Oozie W...

网友评论

      本文标题:任务调度-Oozie的安装

      本文链接:https://www.haomeiwen.com/subject/xpvmzftx.html