使用sbt assembly构建Spark项目

本文介绍了如何使用sbt-assembly插件为Spark项目创建包含所有依赖的JAR包。通过在plugins.sbt中添加插件,创建assembly.sbt文件,排除不必要的Spark依赖,并使用`sbt assembly`命令进行打包。该过程解决了提交到Spark集群时因缺少依赖而引发的问题。
摘要由CSDN通过智能技术生成

sbt-assembly是一个sbt插件,作用类似于Maven,用于创建一个包含依赖的JAR包

场景:我在用sbt构建spark项目,但是在用sbt package打包生成jar包时,这个jar包并不没有包含项目的依赖,导致这个jar包提交到spark集群运行时,worker不能找到相应的类,sbt-assembly这个插件可以解决这个问题,可以将项目的依赖一同打包进jar包里。

我的Spark项目目录为:

MyProject
....project
........plugins.sbt
....src
....target
....build.sbt

1、增加插件

在文件plugins.sbt里增加以下代码(其中,第一行是自带的):

logLevel := Level.Warn

addSbtPlugin("com.eed3si9n"
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值