一个Hadoop的小例子

 1.    创建输入文件
  echo "Hello World" > file1.txt
  echo "Hello Hadoop" > file2.txt

这里写图片描述
2. 在HDFS上创建输入文件夹
hadoop fs -mkdir input
3. 上传本地文件到集群的input目录下
hadoop fs -put ~/bingjie/file*.txt input
查看input下的文件: hadoop fs -ls input
这里写图片描述
4. 在集群上运行WordCount程序
hadoop jar ~/hadoop-2.2.0/share/hadoop/mapreduce/hadoop-mapreduce-example-2.2.0.jar wordcount input output
这里写图片描述

5.查看结果
(1) hadoop fs -ls output
(2) hadoop fs -cat output/part-r-00002
这里写图片描述
这里写图片描述

自己总结了一下mr的开发步骤:
1.创建一个maven项目
2. 添加hadoop依赖,修改pom.xml文件
3.导入项目到eclipse中
mvn eclipse:eclipse
4. 开发后打包生成jar包
mvn package
5. Put到hadoop上执行jar包

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值