windows搭建hadoop源码阅读(debug)环境

最新推荐文章于 2024-07-21 22:35:09 发布

泽米

最新推荐文章于 2024-07-21 22:35:09 发布

阅读量1.3k

点赞数

分类专栏： hadoop 文章标签： hadoop debug sourcecode

本文链接：https://blog.csdn.net/a6822342/article/details/82888696

版权

之前自己有搭过一次，不过是在ubuntu上弄的，然后这次想在windows上弄一个源码阅读环境，说干就干，网上找了一些资料，然后结合自己的情况弄了一套，下面是步骤：

一.下载hadoop的安装包，将其解压缩，然后下载winutils.exe和hadoop.dll将其放在hadoop的bin目录下。

下载地址如下：

链接：https://pan.baidu.com/s/1TnwIbXdVzGWD2qa2saCVjQ
提取码：q5ve

二.在环境变量里面配置hadoop_home以及在path里面添加%hadoop_home%\bin。

三.在idea中添加需要debug的代码，我这里是word count

import java.io.IOException;
import java.util.StringTokenizer;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

public class WordCount {

    //