hadoop跑第一个python wordcount程序

本文介绍如何在Hadoop环境下执行第一个Python编写的WordCount程序,涵盖Hadoop的基本概念和Python MapReduce的实现步骤,带你入门Hadoop分布式计算。
摘要由CSDN通过智能技术生成

参考博客:https://www.cnblogs.com/kaituorensheng/p/3826114.html
https://blog.csdn.net/wangato/article/details/70173682

hadoop集群框架搭建完了,试了几次很稳定,但是这只是第一步,编程才是重要的,另外,虽然hadoop的教程大多数都是用java编写也很清晰,但是对我来说最大的问题就是:我不会闸瓦,于是,找了几篇python实现wordcount的博客试着做一下
一:首先是编写python 的 mapreduce代码:
#!/usr/bin/env python
import sys
for line in sys.stdin:
    line = line.strip()
    words = line.split()
    for word in words:
        print "%s\t%s" % (word, 1)

此处采用的是标准输入输出,将其作为hadoop的接口。此段代码的作用是将文件分割成一个个的<word> 1的形式,其中strip是删除头尾空白符。

写完之后要增加可执行权限(reducer.py也是)

chmod +x hadoop-0.20.2/t
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值