美文网首页
黑猴子的家:Azkaban2.5.0之Hive脚本任务

黑猴子的家:Azkaban2.5.0之Hive脚本任务

作者: 黑猴子的家 | 来源:发表于2021-05-30 19:29 被阅读0次

    1、准备数据

    [alex@hadoop102 module]$ vim data/student.txt
    1001    zhangsan
    1002    lisi
    1003    wangwu
    1004    xiaoliu
    

    2、编写Hive脚本

    [alex@hadoop102 ~]$ cd /opt/module/azkaban/jobs
    [alex@hadoop102 jobs]$ touch hivef.sql
    [alex@hadoop102 jobs]$ vim hivef.sql
    use default;
    drop table if exists student;
    create table if not exists student(id int, name string)
    row format delimited fields terminated by '\t';
    load data local inpath '/opt/module/data/student.txt' into table student;
    insert into student values(1005,"alex");
    insert overwrite local directory '/opt/module/data/student'
    row format delimited fields terminated by '\t'
    select * from student;
    

    3、创建hive.Job

    [alex@hadoop102 ~]$ cd /opt/module/azkaban/jobs
    [alex@hadoop102 jobs]$ vim hive.job
    #hive job
    type=command
    command=/opt/module/hive/bin/hive -f /opt/module/azkaban/jobs/hivef.sql
    

    4、将所有job资源文件打到一个zip包中

    [alex@hadoop102 jobs]$ zip hive.zip hive.job 
      adding: hive.job (deflated 24%)
    

    5、hive查看

    [alex@hadoop102 hive]$ bin/hive
    hive> use default;
    hive> show tables;
    hive> select * from student;
    

    6、Azkaban 执行

    步骤和单Job案例 一样
    在azkaban的web管理界面创建工程并上传zip包, 启动job



    7、Success

    8、查看结果

    [alex@hadoop102 student]$ cat /opt/module/data/student/000000_0 
    1005    alex
    1001    zhangsan
    1002    lisi
    1003    wangwu
    1004    xiaoliu
    

    相关文章

      网友评论

          本文标题:黑猴子的家:Azkaban2.5.0之Hive脚本任务

          本文链接:https://www.haomeiwen.com/subject/lfvksltx.html