spark读取jar中txt文件报错文件找不到

spark任务中使用Source.fromFile(filename)报错,而使用getClass.getClassLoader.getResourceAsStream(filename)读取文件没有报错

答:这个问题可能是因为 Source.fromFile(filename) 方法的参数 filename 是相对于当前 working directory 的路径,而并不是相对于 classpath 的路径。而在 Spark 任务中,working directory 可能不是执行 jar 包的位置,因此可能找不到该路径下的文件。

相比之下,getClass.getClassLoader.getResourceAsStream(filename) 方法接收的是 classpath 下文件的相对路径,因此可以在 jar 包中正确地读取文件内容。因此,如果您需要在 Spark 任务中读取 jar 包内的文件,建议使用 getClass.getClassLoader.getResourceAsStream(filename) 方法。如果一定需要使用 Source.fromFile(filename),可以将 filename 参数替换为绝对路径,例如:

import java.io.File
import scala.io.Source

val file = new File("/absolute/path/to/my_file.txt")
val lines = Source.fromFile(file).getLines.toSeq
需要注意的是,绝对路径在不同的机器上可能不同,因此这种方法并不可移植。建议仅在开发和测试环境中使用这种方法。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值