hadoop本地模式部署_Hadoop Local(本地)模式搭建

1. 下载压缩包

2. 配置环境变量

提前先配置好java环境变量,编辑 vi /etc/profile

export HADOOP_HOME=/usr/soft/hadoop-2.7.2

PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

export PATH USER LOGNAME MAIL HOSTNAME HISTSIZE HISTCONTROL

运行 source /etc/profile 使配置生效

3. 配置Hadoop的JAVA_HOME路径

进入Hadoop解压目录,vi ./etc/hadoop/hadoop-env.sh

设置JAVA_HOME路径

export JAVA_HOME=/usr/soft/jdk1.8.0_144

4. WordCount

单机版Hadoop环境已经搭建完成,运行一个统计单词数量的Demo来了解一下Hadoop的运行机制

复制一些xml文件

mkdir /usr/soft/input

cp ./hadoop/*.xml /usr/soft/input

执行Hadoop命令

格式: hadoop jar

hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.2.jar wordcount /usr/soft/input /usr/soft/output

注意,保证之前没有这个output目录,成功之后会产生2个文件

[root@localhost output]# ll

total 8

-rw-r--r--. 1 root root 5552 Jan 2 17:20 part-r-00000

-rw-r--r--. 1 root root 0 Jan 2 17:20 _SUCCESS

part-r-00000 结果文件

_SUCCESS 成功标志

查看结果

[root@localhost output]# more part-r-00000

"*" 17

"AS 6

--More--(1%)

查看hdfs文件列表

hdfs dfs -ls /

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值