记一次mac安装Hadoop经历(二)——疯狂的报错!

一、2019-09-17 21:52:04,160 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

解决办法:这错误可以忽略的,所以就参照网络上的直接在日志文件里面改了一下就没有了。

参考:https://www.jianshu.com/p/2f80806a3b6d

# 修改日志文件 etc/hadoop/log4j.properties
vim /usr/local/Cellar/hadoop/3.0.0/libexec/etc/hadoop/log4j.properties

# 加一行
log4j.logger.org.apache.hadoop.util.NativeCodeLoader=ERROR 

二、DEBUG util.Shell: setsid is not available on this machine. So not using it.

DEBUG util.Shell: setsid exited with exit code 0

DEBUG lib.MutableMetricsFactory: field org.apache.hadoop.metrics2.lib.MutableRate org.apache.hadoop.security.UserGroupInformation$UgiMetrics.loginSuccess with annotation @org.apache.hadoop.metrics2.annotation.Metric(about=, sampleName=Ops, always=false, type=DEFAULT, value=[Rate of successful kerberos logins and latency (milliseconds)], valueName=Time)

此处省略一百行

from:org.apache.hadoop.hdfs.tools.GetConf.run(GetConf.java:344)

出了超级多的DEBUG,解决办法竟然有点可爱,编辑 hadoop-env.sh 文件

# export HADOOP_OPTS="-Djava.net.preferIPv4Stack=true -Dsun.security.krb5.debug=true -Dsun.security.spnego.debug

将这行前面的“#”去掉就可以了,之前只配置了JAVA_HOME没有动别的东西。


三、Java版本问题。

自己一直用的是JAVA11,但是安装的时候出了超级多的报错,明明和步骤一摸一样,但是就是不对。决心使用JAVA8

java -version

输入上段代码查一下本机的Java版本,自己是11,所以下载Java8

官网下载mac版本的jdk8,然后很简单安装。紧接着改本机的JAVA默认路径。

用 /usr/libexec/java_home -V 查一下Java8在哪里,然后打开.bash_profile文件,修改自己的JAVA_HOME路径。然后source。

之后再看  java -version,变成了

java version "1.8.0_221"

这就没毛病了。再改一下配置过程中改过的 hadoop-env.sh,改掉JAVA_HOME 就可以了。完成!

补充:自己一开始打算使用brew下载java8,但是失败了,用了各种方法,比如:

brew cask install java8

brew cask install adoptopenjdk8

brew tap caskroom/versions

 brew cask install java8

全部失败

Error: Cask 'java8' is unavailable: No Cask with this name exists.

所以自己还是规规矩矩的在官网下载的 也很方便的。


实际过程中会有很多的错误,等补充。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值