编写MapReduce程序(简单的电话被呼叫分析程序)

本文介绍了如何在没有Eclipse Hadoop插件的情况下,利用Eclipse编写MapReduce程序并应用于电话呼叫数据分析。首先,搭建Hadoop环境并在项目中添加Hadoop的jar包依赖。接着,生成模拟的电话呼叫数据集并上传到HDFS。然后,根据《Hadoop权威指南》编写MapReduce程序,并解决在Linux环境下打包和运行时遇到的类找不到问题。最后,通过`hadoop jar`命令执行MapReduce任务进行电话呼叫数据分析。
摘要由CSDN通过智能技术生成

由于Hadoop 2.2.0目前还没有好用的Eclipse插件,目前使用Eclipse上编写代码,而后放到Hadoop环境执行的形式。

准备工作:

1、搭建Hadoop环境,创建项目,项目的BuildPath中添加所有Hadoop中的jar包;

2、构造数据集:每一行数据两个号码组成,呼叫号和被呼叫号,生成随机测试数据,将生成的文件放入hdfs中;

import java.io.BufferedOutputStream;
import java.io.File;
import java.io.FileOutputStream;
import java.io.OutputStream;
import java.util.Random;

public class GenerateTestData {
	public static void writeToFile(String fileName) throws Exception{
		 OutputStream out = new FileOutputStream(new File(fileName));
		 BufferedOutputStream bo = new BufferedOutputStream(out);
		 
		 Random rd1 = new Random();
		 
		 for(int i=0; i<10000; i++){
			 int j=0;
			 StringBuffer sb = new StringBuffer("");
			 sb.append(1);
			 for(j=1;j<9;j++){
				 sb.append(rd1.nextInt(10));
				 //bo.write(rd1.nextInt(10));
			 }
			 sb.append(&#
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值