遇到问题---spark on k8s--挂载了efs的pod运行spark session 60s后报java致命错误

最新推荐文章于 2024-07-02 11:56:48 发布

张小凡vip

最新推荐文章于 2024-07-02 11:56:48 发布

阅读量763

点赞数

分类专栏： spark on k8s 遇到问题解决方案集锦文章标签： spark k8s efs session pod

本文链接：https://blog.csdn.net/zzq900503/article/details/110442284

版权

遇到问题解决方案集锦同时被 2 个专栏收录

264 篇文章 644 订阅 ¥19.90 ¥99.00

订阅专栏

spark on k8s

12 篇文章 406 订阅 ¥59.90 ¥99.00

订阅专栏

本文讲述了在Spark运行于Kubernetes（K8s）集群上，使用Elastic File System (EFS) 共享目录时遇到的60秒后Java致命错误问题。挂载EFS的Pod运行Spark会话出现异常，但去掉EFS挂载则正常。经过排查确定问题出在EFS的/tmp目录权限。解决方案是初始化Pod时对/tmp目录设置正确的用户和组权限，并授权为777。

摘要由CSDN通过智能技术生成

情况

我们在前面的文章中有提到过，目前spark on k8s运行某些类型的任务时，需要共享/tmp目录，我们通过efs来实现了共享目录的挂载。
但是可能遇到挂载了efs的pod运行spark session 60后报java致命错误的情况。

pod状态如下：

spark-shell-1605604907012-exec-2        0/1     Error               0          68s     10.33.1.46     ip-10-33-6-62.cn-northwest-1.compute.internal     <none>           <none>

spark session打印详细报错如下：

20/11/17 09:21:56 INFO Executor: Using REPL class URI: spark://10.30.9.139:45645/classes
#
# A fatal error has been detected by the Java Runtime Environment:
#
#  SIGBUS (0x7) at pc=0x00007fd2beb5560e, pid=14, tid=0x00007fd29b17f700
#
# JRE version: OpenJDK Runtime Environment (8.0_242-b08) (build 1.8.0_242-b08)
#

了解本专栏