一、2019-09-17 21:52:04,160 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
解决办法:这错误可以忽略的,所以就参照网络上的直接在日志文件里面改了一下就没有了。
参考:https://www.jianshu.com/p/2f80806a3b6d
# 修改日志文件 etc/hadoop/log4j.properties
vim /usr/local/Cellar/hadoop/3.0.0/libexec/etc/hadoop/log4j.properties
# 加一行
log4j.logger.org.apache.hadoop.util.NativeCodeLoader=ERROR
二、DEBUG util.Shell: setsid is not available on this machine. So not using it.
DEBUG util.Shell: setsid exited with exit code 0
DEBUG lib.MutableMetricsFactory: field org.apache.hadoop.metrics2.lib.MutableRate org.apache.hadoop.security.UserGroupInformation$UgiMetrics.loginSuccess with annotation @org.apache.hadoop.metrics2.annotation.Metric(about=, sampleName=Ops, always=false, type=DEFAULT, value=[Rate of successful kerberos logins and latency (milliseconds)], valueName=Time)
此处省略一百行
from:org.apache.hadoop.hdfs.tools.GetConf.run(GetConf.java:344)
出了超级多的DEBUG,解决办法竟然有点可爱,编辑 hadoop-env.sh
文件
# export HADOOP_OPTS="-Djava.net.preferIPv4Stack=true -Dsun.security.krb5.debug=true -Dsun.security.spnego.debug
将这行前面的“#”去掉就可以了,之前只配置了JAVA_HOME没有动别的东西。
三、Java版本问题。
自己一直用的是JAVA11,但是安装的时候出了超级多的报错,明明和步骤一摸一样,但是就是不对。决心使用JAVA8
java -version
输入上段代码查一下本机的Java版本,自己是11,所以下载Java8
官网下载mac版本的jdk8,然后很简单安装。紧接着改本机的JAVA默认路径。
用 /usr/libexec/java_home -V 查一下Java8在哪里,然后打开.bash_profile文件,修改自己的JAVA_HOME路径。然后source。
之后再看 java -version,变成了
java version "1.8.0_221"
这就没毛病了。再改一下配置过程中改过的 hadoop-env.sh,改掉JAVA_HOME 就可以了。完成!
补充:自己一开始打算使用brew下载java8,但是失败了,用了各种方法,比如:
brew cask install java8
brew cask install adoptopenjdk8
brew tap caskroom/versions
brew cask install java8
全部失败
Error: Cask 'java8' is unavailable: No Cask with this name exists.
所以自己还是规规矩矩的在官网下载的 也很方便的。
实际过程中会有很多的错误,等补充。