美文网首页Spark开发代码
统计一下每一个月份中,温度最高top2

统计一下每一个月份中,温度最高top2

作者: 0_9f3a | 来源:发表于2018-01-03 17:17 被阅读0次

思路
首先按照月份来分组,对组内的数据按照温度来排序
取温度最高的前两名,然后分组取RDD
代码

public class TopNTemperature {
    public static void main(String[] args) {
        SparkConf conf = new SparkConf().setAppName("TopNTemperature").setMaster("local[1]");
        JavaSparkContext sc = new JavaSparkContext(conf);
        JavaRDD<String> weatherRdd = sc.textFile("weather");
        weatherRdd = weatherRdd.cache();
        JavaPairRDD<String, List<Double>> top2TemperaturePerMonthRDD = weatherRdd.mapToPair(new PairFunction<String, String,Double>() {

            private static final long serialVersionUID = 1L;

            @Override
            public Tuple2<String, Double> call(String log) throws Exception {
                String[] splited = log.split("\t");
                String date = splited[0].substring(0, 7);
                Double temperature = Double.parseDouble(splited[1].trim());
                return new Tuple2<String, Double>(date,temperature);
            }
        })//生成(年月,温度)的RDD
        .groupByKey()//按照月份分组
        .mapToPair(new PairFunction<Tuple2<String,Iterable<Double>>, String,List<Double>>() {
            private static final long serialVersionUID = 1L;

            @Override
            public Tuple2<String, List<Double>> call(Tuple2<String, Iterable<Double>> tuple) throws Exception {
                String date = tuple._1;
                Iterator<Double> iterator = tuple._2.iterator();
                Double[] temperatures = new Double[2];
                //list
                
                while(iterator.hasNext()){
                    //遍历每一个月份
                    Double temperature = iterator.next();
                    for(int i = 0 ;i < temperatures.length ; i++){
                        //遍历每一个月份里的温度
                        if(temperatures[i] == null){
                            //判断某一个月份里是否只有一个温度,如果有不用排序了
                            temperatures[i] = temperature;
                            break;
                        }else{
                            if(temperature > temperatures[i]){
                                /** 
                                 * 有两个以上的温度,对Value值排序,取出最大的两个数,类似于冒泡法
                                 * temperature[]这个数组只能装下两个元素多于的就被淘汰了
                                 */
                                
                                
                                for(int j = (temperatures.length-1) ; j > i ;j--){
                                    temperatures[j] = temperatures[j-1];
                                }
                                temperatures[i] = temperature;
                                break;
                            }
                        }
                    }
                }
                //Collections.sort()
                
                List<Double> asList = Arrays.asList(temperatures);
                
                return new Tuple2<String, List<Double>>(date,asList);
            }
        });
        
        List<Tuple2<String, List<Double>>> collect = top2TemperaturePerMonthRDD.collect();
        for(Tuple2<String,List<Double>> t:collect){
            //collect算子:Action算子,能够将每一个task的计算结果回收到Driver端,一般用于测试
            String date = t._1;
            List<Double> topN = t._2;
            System.out.println("date:" + date + "\tTemperature:" + topN.get(0) + "\t" + topN.get(1));
        }
        
        sc.stop();
    }
}

关于serialVersionUID
serialVersionUID适用于Java的序列化机制。简单来说,Java的序列化机制是通过判断类的serialVersionUID来验证版本一致性的。在进行反序列化时,JVM会把传来的字节流中的serialVersionUID与本地相应实体类的serialVersionUID进行比较,如果相同就认为是一致的,可以进行反序列化,否则就会出现序列化版本不一致的异常,即是InvalidCastException。

相关文章

  • 统计一下每一个月份中,温度最高top2

    思路首先按照月份来分组,对组内的数据按照温度来排序取温度最高的前两名,然后分组取RDD代码 关于serialVer...

  • 听《我这样快乐长大》

    二月份的时间特别短,这不一下翻到三月份了。今天是今年三月份的第一天,本地的最高温度是18摄氏度,最低温度是2摄氏度...

  • 学车记(一)‖排除一切阻力,我决定去学车

    01 2017年的夏天,比往年来得格外早。7月份的时候,气温已经升到了一年中的最高温度。...

  • MapReduce

    1. 应用开发 1.1 词频统计 1.2 计算每年的最高温度 1.3 全排序 如何用 Hadoop 产生全局有序的...

  • 低温天气

    受最近寒潮的影响,我所在的地区温度一下子降到了零度以下,今天整天的温度为:-9℃-0℃,也就是一天中的最高温度也...

  • 最冷的清明节

    降温了。清明节前后的最高温度在15度一下------我记忆中的清明,虽然也会有一两天的雨,但是温度很高,因为那...

  • 继续更文

    昨天最高温度35℃,今天最高温度36℃,太阳的威力一下子变大了,中午出去买饭的时候太阳照在脸上,皮肤有点灼热感。不...

  • 例48 将出库数据按月份进行汇总

    在本例中按日期统计了出库数据,并且出库日期分布在不同的月份中,此时想统计出各个月份的出库总金额,可以使用SUM函数...

  • 今天最高温度0℃

    早晨六点起床,准备上班,先看一下今天的温度,天哪!最高温度是0℃,最低温度 -5℃,昨天温度是5℃~0℃,今...

  • 翠翠的绿、嫩嫩的粉

    昨天的最高温度达到三十一度,而今天的最高温度却只有十七度,这跳越式的温差变化,令人不知所措。试想一下,若是没有天气...

网友评论

    本文标题:统计一下每一个月份中,温度最高top2

    本文链接:https://www.haomeiwen.com/subject/ggtknxtx.html