美文网首页
145、Spark核心编程进阶之cartesian以及服装搭配案

145、Spark核心编程进阶之cartesian以及服装搭配案

作者: ZFH__ZJ | 来源:发表于2019-01-22 09:38 被阅读0次

    cartesian,中文名,笛卡尔乘积
    比如说两个RDD,分别有10条数据,用了cartesian算子以后 ,两个RDD的每一条数据都会和另外一个RDD的每一条数据执行一次join 最终组成了一个笛卡尔乘积

    小案例
    比如说,现在5件衣服,5条裤子,分别属于两个RDD ,就是说,需要对每件衣服都和每天裤子做一次join,尝试进行服装搭配

    public class Cartesian {
        public static void main(String[] args) {
            SparkConf conf = new SparkConf()
                    .setAppName("Cartesian")
                    .setMaster("local");
            JavaSparkContext sc = new JavaSparkContext(conf);
    
            List<String> clothes = Arrays.asList("夹克", "T恤", "皮衣", "风衣");
            JavaRDD<String> clothesRDD = sc.parallelize(clothes);
    
            List<String> trousers = Arrays.asList("皮裤", "运动裤", "牛仔裤", "休闲裤");
            JavaRDD<String> trousersRDD = sc.parallelize(trousers);
    
            JavaPairRDD<String, String> pairsRDD = clothesRDD.cartesian(trousersRDD);
    
            for(Tuple2<String, String> pair : pairsRDD.collect()) {
                System.out.println(pair);
            }
        }
    }
    

    相关文章

      网友评论

          本文标题:145、Spark核心编程进阶之cartesian以及服装搭配案

          本文链接:https://www.haomeiwen.com/subject/ljxcjqtx.html