spark shell启动警告 Unable to load native-hadoop library for your platform

Hadoop版本:2.7.3

Spark版本:2.1.2

 

原因:spark预先编译的hadoop版本为32位的,放在64位的机器上执行会报这个错误,解决办法

办法一:亲测有效

cd /usr/local/spark/conf      

切换到spark的conf目录下

cp spark-env.sh.template spark-env.sh   

将 spark-env.sh.template 复制为spark-env.sh

sudo gedit spark-env.sh      

在spark-env.sh文件中加入LD_LIBRARY_PATH环境变量LD_LIBRARY_PATH=$HADOOP_HOME/lib/native


办法二、

在 ~/.bashrc 设置一下 export LD_LIBRARY_PATH=$HADOOP_HOME/lib/native


参考

http://blog.csdn.net/woshiren123ew/article/details/65447909

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值