linux下jar命令和eclipse两种方式生成wordcount.jar包和hadoop下wordcount实例的运行

最新推荐文章于 2021-02-28 14:02:43 发布

na_beginning

最新推荐文章于 2021-02-28 14:02:43 发布

阅读量949

点赞数

分类专栏： hadoop 文章标签： hadoop wordcount eclipse

本文链接：https://blog.csdn.net/na_beginning/article/details/45567177

版权

本文介绍了如何使用Linux下的jar命令和Eclipse两种方式生成wordcount.jar，详细步骤包括编译Java源码、打包过程。同时，讲解了在Hadoop环境下运行wordcount.jar的命令，强调了主类设置和jar包结构对执行的影响。

摘要由CSDN通过智能技术生成

wordcount项目在包solution 下由三个文件组成，一个是包含主类的WordCount.java，一个是mapper文件WordMapper.java，一个是reducer文件SumReducer.java。

WordCount.java文件源码如下：

package solution;

import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
import org.apache.hadoop.mapreduce.Job;

public class WordCount {

  public static void main(String[] args) throws Exception {

    if (args.length != 2) {
      System.out.printf(
          "Usage: WordCount <input dir> <output dir>\n");
      System.exit(-1);
    }

    Job job = new Job();

    job.setJarByClass(WordCount.class);

    job.setJobName("Word Count");

    FileInputFormat.setInputPaths(job, new Path(args[0]));
    FileOutputFormat.setOutputPath(job, new Path(args[1]));