User class threw exception: org.apache.hadoop.mapred.InvalidInputException: Input path does not exis

临时处理个小任务,结果要放到hdfs中。

  刚开始是设置传参 :

任务提交的时候在脚本中传参,但是这种一运行就报错:说路径已经存在了!!!试了几次,已进行传参就报已存在的错误。

 

解决办法:自己直接在config.properties中给它设置死了,不进行传参,要修改在properties中修改!!!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
org.apache.spark.sql.catalyst.parser.ParseException是Spark SQL的一个异常类,表示语法解析错误。它通常在使用Spark SQL进行SQL查询时出现,并且提示无法解析输入的SQL语句。 它可能有多种原因,包括以下几个方面: 1. SQL语法错误:输入的SQL语句不符合Spark SQL的SQL语法规则,例如拼写错误、语法结构错误,或者使用了不支持的语法特性等。 2. 输入的数据格式错误:如果SQL语句涉及到从外部数据源加载数据,那么可能是因为数据源的格式不符合预期,例如使用了错误的数据列、数据类型不匹配等。 3. 对表或列的引用错误:如果SQL语句涉及到查询或操作表,那么可能是因为引用了不存在的表或列,或者引用了不正确的表或列名称。 4. 版本不兼容:如果Spark版本升级或配置更改,可能导致一些SQL语句无法正确解析。 要解决这个问题,可以采取以下几个步骤: 1. 检查输入的SQL语句是否符合Spark SQL的语法规则,可以通过查阅相关文档或参考示例代码来确认语法是否正确。 2. 检查输入的数据格式是否符合要求,可以查看官方文档或数据源的说明来确认数据格式是否正确。 3. 检查表和列的引用是否正确,可以查看表和列的定义以及相关的元数据信息来确认引用是否正确。 4. 确认Spark版本是否与使用的SQL语句兼容,可以查看Spark的版本说明或升级记录来确认版本兼容性。 如果以上步骤无法解决问题,可以尝试将错误信息提供给Spark社区或相关技术支持团队,以获取更详细的帮助和指导。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值