NativeCodeLoader:62 - Unable to load native-hadoop library for your platform... using builtin-java c

在Spark运行时出现下面提示
NativeCodeLoader:62 - Unable to load native-hadoop library for your platform… using builtin-java classes where applicable
这是一个WRAN提示,当然肯定不影响程序的运行,但终究还是看着不爽.
其实这条异常信息的意思就是说它找不到Hadoop的原生库,这个库是一个底层C++写的一个库,没有找到它程序会默认使用一个效率相对来说要低一点的java类库.
在网上看到很多的文章.都说的是hadoop官网放的编译好的包是在32位的机子上编译的,自己的机子是64位的所以要自己下源项目文件下来自己编译一次.
但是我发现并不是这个问题,只需要在$SPARK_HOME/conf/spark-env.sh 中添加下面这条配置即可:

export LD_LIBRARY_PATH=${LD_LIBRARY_PATH}:$HADOOP_HOME/lib/native

保存后将Spark重启.
好了再次执行程序时就不会出现异常信息了

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值