windows本地运行mr程序时(不提交到yarn,运行在jvm靠线程执行),hadoop.dll防止报nativeio异常、winutils.exe没有的话报空指针异常。
1、到githup找到相应版本的文件,如本文使用的是3.1.2(只要大版本相同就没问题)
下载winutils和hadoop.dll:https://github.com/ordinaryload/Hadoop-tools
2、解压下载的文件,放到$HADOOP_HOME\bin下面
3、拷贝hadoop.dll文件到C:\Windows\System32 下面
4、到官网下载hadoop-3.1.2.tar.gz,解压安装hadoop,并设置windows的环境变量
添加环境变量HADOOP_HOME,指向hadoop目录:
将%HADOOP_HOME%\bin加入到path里面: