spark报错INFO yarn.Client: Application report for application (state: ACCEPTED)解决

在生产环境中,spark的计算任务提交一般是用yarn模式来做提交的。

今天在自己搭建的集群测试yarn提交时候遇到以下报错,

20/08/27 23:04:15 INFO yarn.Client: Application report for application_1598539765305_0002 (state: ACCEPTED)
20/08/27 23:04:16 INFO yarn.Client: Application report for application_1598539765305_0002 (state: ACCEPTED)
20/08/27 23:04:17 INFO yarn.Client: Application report for application_1598539765305_0002 (state: ACCEPTED)

一直循环最后自动关闭,不能得到最后的计算结果。

原因是自己搭建的集群内存不足,因为自己的笔记本电脑是8G内存,搭建的虚拟机集群是3个节点,每个节点设置2G内存,用yarn模式提交spark任务一直不能成功。

解决:

1、因为电脑有一块固态硬盘,先调整笔记本电脑中虚拟内存的大小。我笔记本d盘是固态硬盘,所以把虚拟内存设置在d盘上,最大设成16G。在我的电脑图标右键属性,按照下图设置。

2、虚拟机中内存大小即可调大,我分别调成4G、4G、3G。电脑还好不会卡。

3、重新启动集群,用yarn提交任务即可成功。

  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值