Spark Executor 内存管理

本文主要对 Executor 的内存管理进行分析，下文中的 Spark 内存均特指 Executor 的内存

 

堆内内存和堆外内存

作为一个 JVM 进程，Executor 的内存管理建立在 JVM 的内存管理之上，此外spark还引入了堆外内存（不在JVM中的内存），在spark中是指不属于该executor的内存。

 

堆内内存：由 JVM 控制，由GC（垃圾回收）进行内存回收，堆内内存的大小，由 Spark 应用程序启动时的 executor-memory 或 spark.executor.memory 参数配置，这些配置在 spark-env.sh 配置文件中。

堆外内存：不受 JVM 控制，可以自由分配

堆外内存的优点： 减少了垃圾回收的工作。

堆外内存的缺点：

• 堆外内存难以控制，如果内存泄漏，那么很难排查
• 堆外内存相对来说，不适合存储很复杂的对象。一般简单的对象或者扁平化的比较适合。

 

Executor 内运行的并发任务共享 JVM 堆内内存，这些内存被规划为 存储（Storage）内存 和 执行（Execution）内存

 

一、Storage 内存：

用于存储 RDD 的缓存数据 和 广播（Broadcast）数据，主要用于存储 spark 的 cache 数据，例如RDD的缓存

 

二、Execution 内存：

执行 Shuffle 时占用的内存，主要用于存放 Shuffle、Join、Sort 等计算过程中的临时数据

 

三、用户内存（User Memory）：

主要用于存储 RDD 转换操作所需要的数据，例如 RDD 依赖等信息

 

四、预留内存（Reserved Memory）：

系统预留内存，会用来存储Spark内部对象。

 

五、剩余的部分不做特殊规划，那些 Spark 内部的对象实例，或者用户定义的 Spark 应用程序中的对象实例，均占用剩余的空间。

 

Spark 对堆内内存的管理是一种逻辑上的”规划式”的管理，因为对象实例占用内存的申请和释放都由 JVM 完成，Spark 只能在申请后和释放前记录这些内存。

 

对于 Spark 中序列化的对象，由于是字节流的形式，其占用的内存大小可直接计算，而对于非序列化的对象，其占用的内存是通过周期性地采样近似估算而得，这种方法降低了时间开销但是有可能误差较大，导致某一时刻的实际内存有可能远远超出预期。此外，在被 Spark 标记为释放的对象实例，很有可能在实际上并没有被 JVM 回收，导致实际可用的内存小于 Spark 记录的可用内存。所以 Spark 并不能准确记录实际可用的堆内内存，从而