145、Spark核心编程进阶之cartesian以及服装搭配案例

最新推荐文章于 2022-11-19 10:01:59 发布

ZFH__ZJ

最新推荐文章于 2022-11-19 10:01:59 发布

阅读量1.3k

点赞数

分类专栏： Spark入坑

本文链接：https://blog.csdn.net/ZJ__ZFH/article/details/86622406

版权

Spark入坑专栏收录该内容

207 篇文章 8 订阅

订阅专栏

cartesian，中文名，笛卡尔乘积
比如说两个RDD，分别有10条数据，用了cartesian算子以后，两个RDD的每一条数据都会和另外一个RDD的每一条数据执行一次join 最终组成了一个笛卡尔乘积

小案例
比如说，现在5件衣服，5条裤子，分别属于两个RDD ，就是说，需要对每件衣服都和每天裤子做一次join，尝试进行服装搭配

public class Cartesian {
    public static void main(String[] args) {
        SparkConf conf = new SparkConf()
                .setAppName("Cartesian")
                .setMaster("local");
        JavaSparkContext sc = new JavaSparkContext(conf);

        List<String> clothes = Arrays.asList("夹克", "T恤", "皮衣", "风衣");
        JavaRDD<String> clothesRDD = sc.parallelize(clothes);

        List<String> trousers = Arrays.asList("皮裤", "运动裤", "牛仔裤", "休闲裤");
        JavaRDD<String> trousersRDD = sc.parallelize(trousers);

        JavaPairRDD<String, String> pairsRDD = clothesRDD.cartesian(trousersRDD);

        for(Tuple2<String, String> pair : pairsRDD.collect()) {
            System.out.println(pair);
        }
    }
}