聊聊Spark的分区

最新推荐文章于 2024-07-31 22:23:48 发布

大数据学习与分享

最新推荐文章于 2024-07-31 22:23:48 发布

阅读量250

点赞数

分类专栏： Spark 文章标签：大数据

本文链接：https://blog.csdn.net/qq_42164977/article/details/103245710

版权

本文深入探讨了Spark中分区的概念，解释了如何根据数据源和业务需求决定分区数。默认情况下，Spark根据文件的block数量创建分区，对于不可切分文件，分区数为1。可通过repartition等操作进行重分区。分区器如HashPartitioner允许自定义分区策略。此外，文章提到了blockmanager在RDD存储中的角色，以及block大小的可调整性。

摘要由CSDN通过智能技术生成

       通过上篇文章【Spark RDD详解】，大家应该了解到Spark会通过DAG将一个Spark job中用到的所有RDD划分为不同的stage，每个stage内部都会有很多子任务处理数据，而每个stage的任务数是决定性能优劣的关键指标。
       首先来了解一下Spark中分区的概念，其实就是将要处理的数据集根据一定的规则划分为不同的子集，每个子集都算做一个单独的分区，由集群中不同的机器或者是同一台机器不同的core进行分区并行处理。
       Spark对接不同的数据源，在第一次得到的分区数是不一样的，但都有一个共性：对于map类算子或者通过map算子产生的彼此之间具有窄依赖关系的RDD的分区数，子RDD分区与父RDD分区是一致的。而对于通过shuffle差生的子RDD则由分区器决定，当然默认分区器是HashPartitioner，我们完全可以根据实际业务场景进行自定义分区器，只需继承Parttioner组件，主要重写几个方法即可
在这里插入图片描述
       以加载hdfs文件为例，Spark在读取hdfs文件还没有调用其他算子进行业务处理前，得到的RDD分区数由什么决定呢？关键在于文件是否可切分！
       对于可切分文件，如text文件，那么通过加载文件得到的RDD的分区数默认与该文件的block数量保持一致；
       对于不可切分文件，它只有一个block块，那么得到的RDD的分区数