美文网首页
黑猴子的家:Azkaban2.5.0之MapReduce任务

黑猴子的家:Azkaban2.5.0之MapReduce任务

作者: 黑猴子的家 | 来源:发表于2021-05-30 19:29 被阅读0次

mapreduce任务依然可以使用azkaban进行调度

1、准备数据

[alex@hadoop102 hadoop-2.7.2]$ touch student.txt
[alex@hadoop102 hadoop-2.7.2]$ vim student.txt
1001 小明
1002 xiaohong
1003 xiaogang xiaogang xiaogang

2、上传数据到HDFS

[alex@hadoop102 hadoop-2.7.2]$ bin/hadoop fs -put student.txt /

3、查看数据

[alex@hadoop102 hadoop-2.7.2]$ bin/hadoop fs -ls /

4、编写job

[alex@hadoop102 ~]$ cd /opt/module/azkaban/jobs
[alex@hadoop102 jobs]$ vim mapreduce.job
#mapreduce job
type=command
command=/opt/module/hadoop-2.7.2/bin/hadoop jar /opt/module/hadoop-2.7.2/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.2.jar wordcount /student.txt /wcoutput

5、将job资源文件打到一个zip包中

[alex@hadoop102 jobs]$ zip mapreduce.zip mapreduce.job 
  adding: mapreduce.job (deflated 43%)

6、Azkaban 执行

步骤和单Job案例 一样
在azkaban的web管理界面创建工程并上传zip包, 启动job


7、Success

8、查看

[alex@hadoop102 ~]$ cd /opt/module/hadoop-2.7.2
[alex@hadoop102 hadoop-2.7.2]$ bin/hadoop fs -cat /wcoutput/*

相关文章

网友评论

      本文标题:黑猴子的家:Azkaban2.5.0之MapReduce任务

      本文链接:https://www.haomeiwen.com/subject/xamksltx.html