Spark与scala需注意的地方

搞了一个接近一天的Spark终于弄出答案,接下来分享一下我的经验教训:

  1. scala需在/home/hadoop/sparkapp/src/main/scala/ 文件夹下创建编辑
  2. sbt 需在/usr/local/sbt 文件夹下创建编辑
  3. 再次运行时usr/local/sbt 文件夹下如有出现target和project需删除,防止错误
  4. 编译打包会通过usr/local/sbt 文件夹下的sbt工具将整个应用程序打包成 JAR包(JAR包的名字可在sparkapp目录下的simple.sbt进行修改),JAR包放在/home/hadoop/sparkapp/target/scala-2.11 文件夹下。而且此时在/home/hadoop/sparkapp/target/scala-2.11/classes 文件夹下你会看到新生成的class文件。最后由生成的JAR包通过 spark-submit 提交到 Spark 中运行命令,进行数据统计。          【一定要清楚自己各个文件的位置,位置一旦出错就不能成功 spark-submit 得到结果】
  5. scala内容里的object名字和输入输出路径要写对,输出路径可以尽量放外面点,尽量不要和输出路径同一个文件夹。
  6. 命令出错特别是弹出那种教你各种命令如何输出的,一定要注意看是不是命令里单词之间空格的问题。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

ZYT_庄彦涛

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值