第一种失败: TaskSchedulerImpl 调度失败
报错信息:
TaskSchedulerImpl: Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient memory
原因分析:
1. worker注册失败,导致资源不够用; 2. 现有资源(core和memory)不满足提交时的资源申请要求;
根本解决方案:
1. 查看worker节点日志:找出注册失败原因。
2. 熟悉Master对 Application的调度机制,一方面core,另一方面memory(必须满足可用的条件)。
第二种失败: Master URL的设置
在conf里设置master url时,必须和界面上显示的一样,都使用主机名或都使用ip。对应的值在spark-default.conf中的。。。。