美文网首页
java学习笔记——编写mapreducer程序(1)

java学习笔记——编写mapreducer程序(1)

作者: 烂笔头2020 | 来源:发表于2023-02-23 17:41 被阅读0次

    java在linux环境下运行,需要先编译成java包,才能运行

    一、在linux环境下简单测试java代码:

    1、用文本编辑器新建一个test.java文件,在其中输入以下代码并保存

     public class test{
        public static void main(String args[]) {
            System.out.println("hello world !");
          }
         }
    

    2、编译:在shell终端执行命令

    javac test.java
    

    3、运行

    java test
    
    二、hadoop 上运行jar文件:

    1、编译

    javac -classpath .:/home/jar/*  -d /home/lee/java/ test.java
    

    2、将(多个)类打包到jar文件

    jar -cvf test.jar  *.class
    

    3、运行

    hadoop jar test.jar test  #运行时要输入主类
    
    • Mapper类是一个抽象类,位于hadoop-mapreduce-client-core-2.x.x.jar中,其完整类名是:org.apache.hadoop.mapreduce.Mapper<KEYIN,VALUEIN,KEYOUT,VALUEOUT>,需派生子类使用,在子类中重写map方法:map(KEYIN key,VALUEIN value,Mapper.Context context)对出入的数据分块每个键值对调用一次。

    • Reduce类是一个抽象类,位于hadoop-mapreduce-client-core-2.x.x.jar中,其完整类名是:org.apache.hadoop.mapreduce.Reduce<KEYIN,VALUEIN,KEYOUT,VALUEOUT>,需派生子类使用,在子类中重写reduce方法:reduce(KEYIN key,Inerable <VALUEIN> values,Reducer.Context context)对出入的数据分块每个键值对调用一次。

    相关文章

      网友评论

          本文标题:java学习笔记——编写mapreducer程序(1)

          本文链接:https://www.haomeiwen.com/subject/pnmbortx.html