原因已经找到,这里做个记录,防止下次再犯类似的错误。
实际上是因为代码中将运行模式设置为本地模式,在提交到yarn上后driver端的代码正常运行,并且也正常运行了很多批次。但由于是本地模式,所以driver不会向resourcemanager申请资源,所以也就不会向rm注册自己,这也就解释了为什么在yarn记录的应用的日志中提示应用未向rm注册。
原因已经找到,这里做个记录,防止下次再犯类似的错误。
实际上是因为代码中将运行模式设置为本地模式,在提交到yarn上后driver端的代码正常运行,并且也正常运行了很多批次。但由于是本地模式,所以driver不会向resourcemanager申请资源,所以也就不会向rm注册自己,这也就解释了为什么在yarn记录的应用的日志中提示应用未向rm注册。