java.lang.NoSuchMethodError: com.google.common.collect.Lists.newCopyOnWriteArrayList()Ljava/util/con

问题描述:flink程序本地打包成功后上传到flink环境的机器,使用yarn-cluster的方式在hadoop集群上跑。本地程序跑没有问题,在hadoop上报错。

1.背景

任务提交命令:

/data0/flink/flink-1.8.1/bin/flink run -m yarn-cluster -ys 1 -p 2 -yd -ynm jobname -c pkg.mainClass  ***.jar

hadop上日志报错如下:

java.lang.NoSuchMethodError: com.google.common.collect.Lists.newCopyOnWriteArrayList()Ljava/util/concurrent/CopyOnWriteArrayList;

因为之前也会遇到类似的问题,大部分情况下都是因为maven中引入的包冲突导致的。
解决方法:排除其他包中因为版本过高或者过低导致的找不到方法或者类。

很明显这个问题不是因为自己pom中的包冲突,而是环境和项目中的包冲突
2.排查

  • 使用下面的代码打印出报错的类的在代码运行期间找到的实际的class所在包的位置,确定运行期间使用的class是否是期望的。本地的路径很正常打印的guava18.0的,但是hadoop上打印的如下:/data2/hadoop/local/***/application_1236232/flink-metrics-http-1.81.jar,一个不属于自己项目的jar包路径。应该是hadoop环境开发加进去的一个监控指标的包。
this.getClass().getResource("/com/google/common/collect/Lists.
  • 结论:flink任务依赖了第三方的jar,第三方的jar依赖了guava18.0,任务提交到hadoop之后 类加载的时候加载了hadoop环境的低版本的guava
  • 解决:flink有个参数 -yt, 这个参数后面配置一个你本地的目录,这个目录存放的是你需要上传到每个 Task ClassPath 下的 jar包。当指定了-yt 值后,客户端会将目录中的jar上传到 hdfs 中本应用的 lib 目录中,在 tm 下载之后,会存在于tm的classpath中。
  • 使用方法如下:
    ./bin/flink run -m yarn-cluster -yt 你的本地目录
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
对于计算机专业的学生而言,参加各类比赛能够带来多方面的益处,具体包括但不限于以下几点: 技能提升: 参与比赛促使学生深入学习和掌握计算机领域的专业知识与技能,如编程语言、算法设计、软件工程、网络安全等。 比赛通常涉及实际问题的解决,有助于将理论知识应用于实践中,增强问题解决能力。 实践经验: 大多数比赛都要求参赛者设计并实现解决方案,这提供了宝贵的动手操作机会,有助于积累项目经验。 实践经验对于计算机专业的学生尤为重要,因为雇主往往更青睐有实际项目背景的候选人。 团队合作: 许多比赛鼓励团队协作,这有助于培养学生的团队精神、沟通技巧和领导能力。 团队合作还能促进学生之间的知识共享和思维碰撞,有助于形成更全面的解决方案。 职业发展: 获奖经历可以显著增强简历的吸引力,为求职或继续深造提供有力支持。 某些比赛可能直接与企业合作,提供实习、工作机会或奖学金,为学生的职业生涯打开更多门路。 网络拓展: 比赛是结识同行业人才的好机会,可以帮助学生建立行业联系,这对于未来的职业发展非常重要。 奖金与荣誉: 许多比赛提供奖金或奖品,这不仅能给予学生经济上的奖励,还能增强其成就感和自信心。 荣誉证书或奖状可以证明学生的成就,对个人品牌建设有积极作用。 创新与研究: 参加比赛可以激发学生的创新思维,推动科研项目的开展,有时甚至能促成学术论文的发表。 个人成长: 在准备和参加比赛的过程中,学生将面临压力与挑战,这有助于培养良好的心理素质和抗压能力。 自我挑战和克服困难的经历对个人成长有着深远的影响。 综上所述,参加计算机领域的比赛对于学生来说是一个全面发展的平台,不仅可以提升专业技能,还能增强团队协作、沟通、解决问题的能力,并为未来的职业生涯奠定坚实的基础。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值