MapReduce.祖孙关系

文章描述了一位用户进行Hadoop环境的配置,包括启动HDFS,创建目录,上传文件到HDFS,编写并编译Java程序(Join2.java),然后使用Hadoop运行该程序并将结果输出到HDFS的过程。
摘要由CSDN通过智能技术生成
输入
Steven   Lucy
Steven   Jack
Jone     Lucy
Jone     Jack
Lucy     Mary
Lucy     Frank
Jack     Alice
Jack     Jesse
David    Alice
David    Jesse
Philip   David
Philip   Alma
Mark     David
Mark     Alma

创建文件夹:mkdir /home/stu/codes

进入:cd /home/stu/codes

编辑文档:vim a.txt

查看:ls

开启hadoop:

  1. 进入:cd /usr/local/hadoop

  1. 启动:./sbin/start-dfs.sh

hdfs创建:./bin/hdfs dfs -mkdir -p /user/stu

上传至hdfs:./bin/hdfs dfs -put /home/stu/codes/a.txt /user/stu/indir3

编辑Join2.java

  1. 进入:cd /usr/local/hadoop

  1. 编辑文档:vim Join2.java

  1. export:让javac编译程序可以找到Hadoop相关的JAR包:

export CLASSPATH="/usr/local/hadoop/share/hadoop/common/hadoop-common-3.1.3.jar:/usr/local/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-client-core-3.1.3.jar:/usr/local/hadoop/share/hadoop/common/lib/commons-cli-1.2.jar:$CLASSPATH"

  1. 进入:cd /home/stu/codes

????????????

  1. 编译:javac Join2.java

  1. 打包:jar -cvf join2.jar *.class

  1. 生成结果:./bin/hadoop jar join2.jar Join2 indir3 outdir3

  1. 查看结果:hdfs dfs -cat outdir3/*

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值