spark程序运行异常：java.lang.OutOfMemoryError: GC overhead limit exceeded

此次异常是在集群上运行的spark程序日志中发现的。由于这个异常导致sparkcontext被终止，以致于任务失败：

出现的一些原因

参考：GC overhead limit exceeded

java.lang.OutOfMemoryError有几种分类的，这次碰到的是java.lang.OutOfMemoryError: GC overhead limit exceeded，下面就来说说这种类型的内存溢出。
简单来说，java.lang.OutOfMemoryError: GC overhead limit exceeded发生的原因是，当前已经没有可用内存，经过多次GC之后仍然没能有效释放内存。
众所周知，JVM的GC过程会因为STW，只不过停顿短到不容易感知。当引起停顿时间的98%都是在进行GC，但是结果只能得到小于2%的堆内存恢复时，就会抛出java.lang.OutOfMemoryError: GC overhead limit exceeded这个错误。Plumbr给出一个示意图：

这个错误其实就是空闲内存与GC之间平衡的一个限制，当经过几次GC之后，只有少于2%的内存被释放，也就是很少的空闲内存，可能会再次被快速填充࿰