mapreduce框架的设计思想.png
wordcount
打开client上传文件，
1、绿色：代表局部统计阶段（map阶段）
2、第一个阶段：map task实例各自互不干涉，并行执行
3、橙色代表第二个阶段reduce task实例：reduce task实例完全依赖于前一阶段的实例
map阶段
读取指定文件到hdfs
按行处理，
按空格分割单词
HASHMAP单词计数（单词，value+1）
Hashmap怎么传出去？（序列化）Hashmap传给谁？（将Hashmap按照多个Hashmap，分别传给对应数量的reduceTask）
问题----主要体现在第一阶段和第二阶段不协调
1、maptask任务如何分配
2、reduceTask任务如何分配
3、maptask和reduskTask如何分配，哪些maptask的输出作用在哪些reduseTask
4、如果maptask运行失败，如何处理？
5、maptask如要自己负责输出数据的分区，很麻烦
---靠app master来协调
1、maptask只负责输出自己的文件
2、app master依靠配置文件启动相应数量的redustask，让redustask去获取相应的map输出
所以要编写三个角色：
mapTask、reduceTask、mr app master
package cn.itcast.bigdata.mr.wcdemo;
import java.io.IOException;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Mapper;
/**
* KEYIN（LongWritable）: 默认情况下，是mr框架所读到的一行文本的起始偏移量，Long类型,
* 但是在hadoop中有自己的更精简的（因为要网络传输所以要序列化）序列化接口，所以不直接用Long（long能序列化但是我们用hadoop自己的序列化框架），而用LongWritable
*
* VALUEIN（Text）:默认情况下，是mr框架所读到的一行文本的内容，String类型，同上，用Text
*
* KEYOUT（Text）：是用户自定义逻辑处理完成之后输出数据中的key，类型由程序员决定，在此处是单词，String，同上，用Text
* VALUEOUT（IntWritable）：是用户自定义逻辑处理完成之后输出数据中的value，在此处是单词次数，Integer，同上，用IntWritable
*
* @author
*
*/
public class WordcountMapper extends Mapper<LongWritable, Text, Text, IntWritable>{
/**
* map阶段的业务逻辑就写在自定义的map()方法中
* maptask会对每一行输入数据调用一次我们自定义的map()方法
*/
@Override
protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {
//将maptask传给我们的文本内容先转换成String
String line = value.toString();
//根据空格将这一行切分成单词
String[] words = line.split(" ");
//将单词输出为<单词，1>
for(String word:words){
//将单词作为key，将次数1作为value，以便于后续的数据分发，可以根据单词分发，以便于相同单词会到相同的reduce task
context.write(new Text(word), new IntWritable(1));
}
}
}
reduce逻辑
package cn.itcast.bigdata.mr.wcdemo;
import java.io.IOException;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Reducer;
/**
* KEYIN, VALUEIN 对应 mapper输出的KEYOUT,VALUEOUT类型对应
*
* KEYOUT, VALUEOUT 是自定义reduce逻辑处理结果的输出数据类型
* KEYOUT是单词
* VLAUEOUT是总次数
* @author
*
*/
public class WordcountReducer extends Reducer<Text, IntWritable, Text, IntWritable>{
/**
* <angelababy,1><angelababy,1><angelababy,1><angelababy,1><angelababy,1>
* <hello,1><hello,1><hello,1><hello,1><hello,1><hello,1>
* <banana,1><banana,1><banana,1><banana,1><banana,1><banana,1>
* 入参key，是一组相同单词kv对的key
*/
@Override
protected void reduce(Text key, Iterable<IntWritable> values, Context context) throws IOException, InterruptedException {
int count=0;
/*Iterator<IntWritable> iterator = values.iterator();
while(iterator.hasNext()){
count += iterator.next().get();
}*/
for(IntWritable value:values){
count += value.get();
}
context.write(key, new IntWritable(count));
}
}
每个reduceTask都会写到相应节点的hdfs文件，所以需要写一个主程序来调用mapper和reducer，这个程序即Driver
package cn.itcast.bigdata.mr.wcdemo;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
/**
* 相当于一个yarn集群的客户端
* 需要在此封装我们的mr程序的相关运行参数，指定jar包
* 最后提交给yarn
* @author
*
*/
public class WordcountDriver {
//需要抛异常
public static void main(String[] args) throws Exception {
if (args == null || args.length == 0) {
args = new String[2];
args[0] = "hdfs://master:9000/wordcount/input/wordcount.txt";
args[1] = "hdfs://master:9000/wordcount/output8";
}
Configuration conf = new Configuration();
//设置的没有用! ??????
// conf.set("HADOOP_USER_NAME", "hadoop");
// conf.set("dfs.permissions.enabled", "false");
/*conf.set("mapreduce.framework.name", "yarn");
conf.set("yarn.resoucemanager.hostname", "mini1");Windows和linux的环境变量不同，此方法无效*/
Job job = Job.getInstance(conf);
/*job.setJar("/home/hadoop/wc.jar");路径不能写死*/
//指定本程序的jar包所在的本地路径
job.setJarByClass(WordcountDriver.class);
//指定本业务job要使用的mapper/Reducer业务类
job.setMapperClass(WordcountMapper.class);
job.setReducerClass(WordcountReducer.class);
//指定mapper输出数据的kv类型
job.setMapOutputKeyClass(Text.class);
job.setMapOutputValueClass(IntWritable.class);
//指定最终输出的数据的kv类型
job.setOutputKeyClass(Text.class);
job.setOutputValueClass(IntWritable.class);
//指定job的输入原始文件所在目录
FileInputFormat.setInputPaths(job, new Path(args[0]));
//指定job的输出结果所在目录
FileOutputFormat.setOutputPath(job, new Path(args[1]));
//将job中配置的相关参数，以及job所用的java类所在的jar包，提交给yarn去运行
/*job.submit();---这种提交方式，提交完，程序就退出，不建议使用*/
boolean res = job.waitForCompletion(true);//用这种方式提交程序、阻塞等待程序执行完成
System.exit(res?0:1);//不仅要等待程序执行完成，还要获得程序执行是否成功
}
}
上传导出的jar包到集群上任意节点上，使用hadoop fs -mkdir -p /wordcount/input创建文件夹
上传测试文件 hadoop fs -put NOTICE.txt README.txt LICENSE.txt /wordcount/input
java -cp wordcount.jar xx.xx.xx.xx.WordcountDriver /wordcount/input /wordcount/output
如果报错找不到Configuration类，因为没有设置classpath（java -cp 接所有jar宝 wordcount.jar 。。。。不实用）
hadoop jar wordcount.jar xx.xx.xx.xx.WordcountDriver /wordcount/input /wordcount/output//能找到classpath
可以看到程序输出日志的创建顺序：app master 、map task、reduce task
wordcount运行过程的解析.png
1、待处理文本文件上传至集群
2、客户端submit（）后获取待处理数据的信息，然后根据参数配置，形成一个任务分配的规划（即block 128MB一个a.txt文件）
3、submit会提交job.split、 worccount.jar、job.xml提交到YARN集群
4、YARN集群的RM会找到一个NM启动一个appmaster
5、根据数据文件的位置就近原则取mapTask节点，并且分割文件，尽可能的分割到一个节点上
6、mapTask进程按照文件目录和范围读取数据（如果文件恰好在该节点上，否则需要网络传输）
7、mapTask相当于管理者。它有一个组件InputFormat具体读取文件的指定范围（比如0~128MB）
8、调用mapper类输出map（k，v）对，然后用context.write(k,v)进行输出
9、输出到outputCollector产生结果文件并且分区
10、等待所有map任务完成，才开始启动reduceTask（否则数据不全，shuffle省略）
11、reduceTask任务启动，通过wordcountReducer方法进行聚合操作
12、调用outputFormat组件输出文件
mapreduce的shuffle原理.png
mapreduce框架全图.png
mapreduce运行全流程.png
maptask任务分配切片机制.png
wordcount伪代码.png
客户端提交mr程序job的流程.png
切片示意.png
数据切片既不是越多越好也不是越少越好
1、一个300MB的文件，（物理划分）切分为3个block，切分范围如图所示（这里是读取切分不是存储，所以不考虑备份）
2、假设mapTask将文件平均分配（逻辑划分）任务，每个mapreduce程序都分配100MB
3、mapTask拿到数据输入流in=fsopen(a.txt)，走如图所示的代码流程
4、由于block是物理切分每个128MB，而mapreduce程序是逻辑划分3等分100MB，因此会造成各个节点数据要依靠网络传输来满足任务的内存
5、由于网络传输会效率变慢，所以应将mapreduce任务的逻辑划分改为block物理划分的大小，以减少网络传输
6、如果文件全是小文件，如10MB一个，那么一个block就会存一个小文件，所以mapreduce的切片又该调节为多个block大小的总和。小文件越多->block越多->mapTask进程就越多->开启关闭task的开销越大
7、所以mapreduce的切片规划不确定，但是默认切分规划为block大小
文章的1.3.2--及源代码相关类FileInputFormat及核心方法getsplits
https://blog.csdn.net/ForgetThatNight/article/details/78570234#t6
跟踪源码的方式：模拟运行day08-05.客户端提交job流程之源码跟踪
mapreduce设计思路及运行机制.png
网友评论