spark Yarn模式下 运行wordcount 出现的问题

  1. lzo压缩问题
    说明:因为之前hadoop集群上配了lzo,spark还没有配置
    解决:1)找到hadoop配置文件(core-site)将lzo相关的配置注释掉重新运行即可。2)或者在spark中配置lzo。
    => spark-env.sh 中添加
export SPARK_LIBRARY_PATH=$SPARK_LIBRARY_PATH:/opt/module/hadoop-2.7.2/lib/native
export SPARK_CLASSPATH=$SPARK_CLASSPATH:/opt/module/hadoop-2.7.2/share/hadoop/common/hadoop-lzo-0.4.20.jar

在这里插入图片描述

  1. Class Not Fount Exception
    第一次运行正常跑通了,第二次运行时报的错,期间并没有做任何操作T_T。查了spark的logs文件也并没有发现错误信息。。。
    =>解决:重新打一次jar包,覆盖掉之后跑了下,成功
    (难道是一次性jar包么,笑crazy =_=,至今不知道是什么问题)
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值