美文网首页
Hadoop批处理调度器Azkaban操作

Hadoop批处理调度器Azkaban操作

作者: 羋学僧 | 来源:发表于2020-08-29 15:58 被阅读0次

Azkaban应用案例演示

1、Commend类型单一job示例

创建工程

创建成功之后:
点击upload: 注意要是zip的压缩包

command.job内容

#command.job
type=command
command=echo 'hello azkaban'
点击Execute Flow执行
点击Execute执行


点击上图中的Details,查看打印结果:
在自己配置的Projects目录下面可以看到上传的项目:
cd /home/bigdata/apps/azkaban-2.5.0/projects/1.1/
ll

2、Commend类型多job工作流flow

创建工程
上传依赖文件

stepone.job

# stepone.job
type=command
command=echo stepone

steptwo.job

# steptwo.job
type=command
dependencies=stepone
command=echo steptwo

点击执行
点击Execute
执行结果:
可以点击Details看任务结果。

3、操作HDFS任务

创建工程
上传压缩包

hdfs.job

# hdfs.job
type=command
command=hadoop fs -mkdir -p /hello/azkaban

执行成功:

查看结果:

4、操作MapReduce任务

创建工程
上传文件

mapreduce_pi.job

# mapreduce_pi.job
type=command
command=hadoop jar hadoop-mapreduce-examples-2.7.7.jar pi 5 1000

mapreduce_wordcount.job

# mapreduce_wordcount.job
type=command
dependencies=mapreduce_pi
command=hadoop jar hadoop-mapreduce-examples-2.7.7.jar wordcount /wordcount.txt /wordcount/output_azkaban

hadoop-mapreduce-examples-2.7.7.jar

执行中:

执行完毕:
可以看到执行中和执行完毕颜色不同
到HDFS中查看运行结果:

相关文章

  • Hadoop批处理调度器Azkaban操作

    Azkaban应用案例演示 1、Commend类型单一job示例 创建工程 创建成功之后: 点击upload: 注...

  • 大数据技术之azkaban

    一、azkaban介绍 Azkaban是由Linkedin开源的一个批处理工作流任务调度器。用于在一个工作流内以一...

  • Oozie 介绍

    Hadoop 调度框架 Linux Crontab Azkabanhttps://azkaban.github.i...

  • 2.azkaban启动报hadoop_home错误及其他bug

    azkaban调度启动异常文档Azkaban2.5.0与Hadoop2.5.1的集成 https://blog.c...

  • [调度]azkaban~hadoop工作流引擎

    Hadoop - Azkaban 作业调度 - 哥不是小萝莉 - 博客园http://www.cnblogs.co...

  • Azkaban安装

    Azkaban安装 1 Azkaban介绍 Azkaban是由Linkedin开源的一个批量工作流任务调度器。用于...

  • 进程调度, 一个调度器的自白

    我是一个进程调度器。 我的职责是调度计算机内所有的进程,为他们分配 CPU 资源。 1. 批处理时代 想当初,操作...

  • 2018-08-21

    1. Azkaban是什么? Azkaban是由Linkedin公司推出的一个批量工作流任务调度器,主要用于在一个...

  • Hadoop调度器

    1.Hadoop调度器分为三类:FIFO、Capacity Scheduler(容量调度器)和Fair Sched...

  • Hadoop Yarn 资源调度器解析

    Hadoop Yarn 资源调度器解析篇 Yarn资源调度器简介 资源调度器是Yarn中最核心的组件之一,他是Re...

网友评论

      本文标题:Hadoop批处理调度器Azkaban操作

      本文链接:https://www.haomeiwen.com/subject/awpcsktx.html