spark实验遇到的问题

问题1.0.0.0.0.8032
这种问题一般是自己配置出错了,仔细检查前面的配置信息(从前到后,即使是前面配置的,也很可能当前错误是由它造成的,因为前面的运行案例都没有使用到这个配置信息),包括字母出错都可能导致这种情况。检查完成之后再重新启动一次集群。不要去尝试改变yarn集群配置(比如在yarn-site.xml中加上master:8032…),只要你之前yarn是正常启动了的,后面一般都不会修改yarn来纠正错误。除非确实该软件需要配置yarn时(如hadoop).
问题2.idea编辑java程序包出错
当idea碰到不能代码补全和提示什么地方出错了时,很可能是你打开了省电模式。解决:file->power save mode(点击让他关闭即可)
问题3.sbt速度慢,仓库换华为云也不行
sbt打包文件时,如果是刚开始使用,使用时需要下载一些编译和运行需要的源文件,因为最初访问的是国外的仓库,所以其下载非常慢,之后查看资料:将下载的仓库改为华为云,但是还是非常慢。 解决:将仓库改为阿里云

$ cd ~
$ mkdir .sbt   #如果该目录已经存在,就不用创建了
$ cd .sbt
$ vim repositories  #使用vim编辑器创建repositories文件,在文件中添加如下内容

[repositories]
local
aliyun: https://maven.aliyun.com/nexus/content/groups/public/
typesafe: https://repo.typesafe.com/typesafe/ivy-releases/, [organization]/[module]/(scala_[scalaVersion]/)(sbt_[sbtVersion]/)[revision]/[type]s/[artifact](-[classifier]).[ext], bootOnly
sonatype-oss-releases
maven-central
sonatype-oss-snapshots

#修改SBT配置文件。
$ vim /usr/local/sbt/conf/sbtopts    # 在末尾新增如下一行
-Dsbt.override.build.repos=true

问题4.idea代码引入hdfs =>textfile
hdfs引入正确格式:hdfs://node1:8020/test/input

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

看不见的罗辑

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值