在yarn上安装spark,以及遇到的问题

安装:

  1. 安装在客户端:解压包解压在 /opt/software/spark(自己定义的目录)
  2. 配置文件:
    修改slaves文件:其中配置worker的节点
    在这里插入图片描述修改配置文件:spark-env.sh,配置hadoop相关信息
    在这里插入图片描述

3.修改命令:
sbin目录下的 start-all.sh 改为: start-1.6.3.sh(自定义)
4.修改环境变量:
在这里插入图片描述

问题:

1.在内存充足的情况下,运行时,报错:运行内存不足:
解决方法:查看配置文件 spark-env.sh 是不是配置了其他的参数
在这里插入图片描述
2.在yarn上运行spark-submit时出现:
在这里插入图片描述解决:因为jdk的问题
需要在yarn-site.xml中添加:

<property>
    <name>yarn.nodemanager.pmem-check-enabled</name>
    <value>false</value>
</property>
<property>
    <name>yarn.nodemanager.vmem-check-enabled</name>
    <value>false</value>
</property>
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值