准备工作
操作系统:Linux(以CentOS为例)
JDK版本:jdk-1.8.1_212
Hadoop版本:hadoop-2.8.3
操作步骤
1.查看JAVA_HOME路径
echo ${JAVA_HOME}
2.修改配置文件
编辑hadoop-env.sh环境配置文件
vim /usr/local/hadoop-2.8.3/etc/hadoop/hadoop-env.sh
将:
export JAVA_HOME=${JAVA_HOME},
修改为:
export JAVA_HOME=/usr/local/jdk
3.Hadoop单机模式配置完成,下面进行测试
在hadoop-2.8.3目录下创建一个input文件夹
mkdir /usr/local/hadoop-2.8.3/input
将hadoop-2.8.3/etc/hadoop文件夹下的所有的.xml文件复制到input文件夹中
cp /usr/local/hadoop-2.8.3/etc/hadoop/*.xml /usr/local/hadoop-2.8.3/input
使用mapRaduce在input文件夹中查找所有符合要求的字符串,并将结果保存在output文件夹中
/usr/local/hadoop-2.8.3/bin/hadoop jar /usr/local/hadoop-2.8.3/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.8.3.jar grep /usr/local/hadoop-2.8.3/input /usr/local/hadoop-2.8.3/output 'dfs[a-z.]+'
4.测试成功
查看结果
cat /usr/local/hadoop/output/*