Spark读取Hive报错:java.lang.outofmemoryerror: java heap space

Spark本地测试Hive数据时,报错:

java.lang.outofmemoryerror: java heap space

因为是本地测试,内存足够,所以IDEA中增大内存。Run/Bebug Configurations 中 VM options 设置 -Xmx2048m,问题同样。

基本排除了是内存不足的问题,可能存在问题的地方。

 

1. AppName

检查 Spark 配置,因为偷懒配置是直接拷贝其他类的,发现 appName 设置错误,改成当前类。

读简单的表没有问题了,但是读复杂的表问题同样。

SparkSession.builder().appName(s"${this.getClass.getSimpleName}")

 

2. Master

继续检查。因为本地测试,master 为 local 模式,直接调用了常量类设置的好的 Constants.SPARK_LOCAL_MODE。

查看设置成了 local[4],删除,使用全部核心进程处理。再运行,问题解决。

  val SPARK_LOCAL_MODE = "local"

 

可以看出,有时候报内存堆栈问题并非都是内存不足。

object SdkUserBehaviorDaily {
  private val warehouseLocation: String = new File("spark-warehouse").getAbsolutePath

 
### 问题分析 在 Hive on Spark 运行过程中出现 `java.lang.ClassNotFoundException: scala.Cloneable` 错误,通常表明运行环境中缺少 Scala 相关的类库,尤其是 `scala-library`。Spark 是基于 Scala 开发的,依赖 Scala 的标准库运行,因此在执行 Spark 任务时,JVM 必须能够加载 Scala 的核心类。 该问题可能由以下原因引起: - **缺少 Scala 依赖**:运行环境中未正确引入 `scala-library` 或其版本与 Spark 不兼容。 - **依赖作用域配置错误**:Maven 项目中将 Scala 相关依赖设置为 `<scope>provided</scope>`,导致运行时缺失必要的类。 - **类加载冲突**:多个版本的 Scala 被同时加载,导致类冲突或无法找到特定类。 ### 解决方法 确保 `scala-library` 被正确引入,并且其作用域未被错误地设置为 `provided`。例如,在 `pom.xml` 中应包含如下依赖: ```xml <dependency> <groupId>org.scala-lang</groupId> <artifactId>scala-library</artifactId> <version>2.12.15</version> </dependency> ``` 如果该依赖被设置为 `provided`,则需要将其删除或改为默认作用域,以确保在构建过程中将其打包进最终的 JAR 文件中 [^2]。 在 Hive 的运行环境中,应将 `scala-library` 的 JAR 文件手动复制到 `$HIVE_HOME/lib/` 目录下,以确保 Hive 启动时能够加载 Scala 的核心类: ```bash cp scala-library-2.12.15.jar $HIVE_HOME/lib/ ``` 此外,若使用 `spark-submit` 提交 Hive 任务,应通过 `--jars` 参数指定 `scala-library` 的路径,确保运行时类路径中包含该依赖: ```bash spark-submit \ --jars /path/to/scala-library-2.12.15.jar \ --class org.apache.hadoop.hive.ql.exec.spark.SparkTask \ your-hive-job.jar ``` ### 版本兼容性检查 Spark 与 Scala 的版本需保持兼容。例如,Spark 3.x 通常与 Scala 2.12 兼容,而 Spark 2.x 可能依赖 Scala 2.11。如果使用了不匹配的 Scala 版本,可能导致类加载失败或运行时异常 [^1]。 在构建 Hive on Spark 项目时,应确保所有依赖项(包括 Spark 和 Scala)的版本一致,并与 Hive 的版本兼容。例如,Hive 3.x 推荐使用 Spark 3.x 和 Scala 2.12 的组合。 --- ### 示例配置 以下是一个完整的 `pom.xml` 片段,确保 Scala 依赖被正确引入: ```xml <dependencies> <dependency> <groupId>org.scala-lang</groupId> <artifactId>scala-library</artifactId> <version>2.12.15</version> </dependency> <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-core_2.12</artifactId> <version>3.5.0</version> </dependency> </dependencies> ``` 确保未使用 `<scope>provided</scope>`,以避免运行时类缺失 。 --- ###
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

訾零

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值