美文网首页
Hadoop学习笔记(MR执行流程)

Hadoop学习笔记(MR执行流程)

作者: Seo_sir | 来源:发表于2017-03-08 22:00 被阅读0次
    1. 执行MR的命令:
      hadoop jar <jar在linux的路径> <main方法所在的类的全类名> <参数>
      例子:
      hadoop jar /root/wc1.jar cn.itcast.d3.hadoop.mr.WordCount hdfs://itcast:9000/words /out2

    2. MR执行流程
      (1).客户端提交一个mr的jar包给JobClient(提交方式:hadoop jar ...)
      (2).JobClient通过RPC和JobTracker进行通信,返回一个存放jar包的地址(HDFS)和jobId
      (3).client将jar包写入到HDFS当中(path = hdfs上的地址 + jobId)
      (4).开始提交任务(任务的描述信息,不是jar, 包括jobid,jar存放的位置,配置信息等等)
      (5).JobTracker进行初始化任务
      (6).读取HDFS上的要处理的文件,开始计算输入分片,每一个分片对应一个MapperTask
      (7).TaskTracker通过心跳机制领取任务(任务的描述信息)
      (8).下载所需的jar,配置文件等
      (9).TaskTracker启动一个java child子进程,用来执行具体的任务(MapperTask或ReducerTask)
      (10).将结果写入到HDFS当中

    相关文章

      网友评论

          本文标题:Hadoop学习笔记(MR执行流程)

          本文链接:https://www.haomeiwen.com/subject/qcyigttx.html