【大数据·hadoop】项目实践：IDEA实现WordCount词频统计项目

已于 2024-06-27 17:01:09 修改
阅读量1.2k 收藏 25
点赞数 9
分类专栏： 大数据BigData 文章标签： 大数据 hadoop intellij-idea
于 2024-06-11 20:12:19 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Yaoyao2024/article/details/138727898
版权

一、环境准备

1.1：在ubuntu上安装idea

我们知道，在hdfs分布式系统中，MapReduce这部分程序是需要用户自己开发，我们在ubuntu上安装idea也是为了开发wordcount所需的Map和Reduce程序，最后打包，上传到hdfs上。

在ubuntu上安装idea的教程我参考的是这篇Ubuntu 中安装 IDEA

1.2：下载maven

  • maven是什么？
  • maven是一个项目构建和管理的工具，提供了帮助管理 构建、文档、报告、依赖、scms、发布、分发的方法。

Maven的安装和配置参考这篇Ubuntu20.04下配置Maven+IDEA配置

二、MapReduce的实现

2.1：在IDEA中配置Maven

🆘注意：确保你是在IDEA的欢迎界面进行配置，这一步很重要，决定了你的配置是不是全局的，如果你在项目中的话，请点击菜单的“文件”-"关闭项目"回到欢迎界面，一定要注意！！

步骤1—— 在欢迎界面打开设置
点击所有设置，或者直接用打开设置的快捷键 Ctrl + Alt + S

步骤2—— 找到maven配置项
左上角搜索框搜索maven，回车，主要修改红色框内的几个配置
在这里插入图片描述
步骤3—— 修改maven配置

按照下图配置即可，maven的主路径指的就是maven的主文件夹，用户设置文件就是我们刚刚上面下载maven中配置的那个文件settings.xml，本地仓库就是我们自己新建的一个文件夹，所有从中央仓库下载的jar包会放在这里面，如果你按照我上面1.2的思路配置，那么这三个路径应该是这种：
Maven主路径：/opt/maven/apache-maven-3.9.7
用户设置文件：/opt/maven/apache-maven-3.9.7/conf/settings.xml
本地仓库：/opt/maven/repository（用来存储从远程仓库或中央仓库下载的插件和jar包，项目使用一些插件或jar包，优先从本地仓库查找）
在这里插入图片描述

🚨：注意，设置完后需要重启IDEA，设置才可生效

2.1：新建一个Maven空项目：wordCount

在这里插入图片描述

2.2：添加依赖

    <dependencies>
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-common</artifactId>
            <version>3.3.5</version>
        </dependency>

        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-hdfs</artifactId>
            <version>3.3.5</version>
        </dependency>

        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-mapreduce-client-core</artifactId>
            <version>3.3.5</version>
        </dependency>

        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-client</artifactId>
            <version>3.3.5</version>
        </dependency>
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-mapreduce-client-jobclient</artifactId>
            <version>3.3.5</version>
            <scope>provided</scope>
        </dependency>
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-mapreduce-client-common</artifactId>
            <version>3.3.5</version>
        </dependency>
    </dependencies>

在这里插入图片描述

2.3：创建WordCount类

在这里插入图片描述

/**
 * Licensed to the Apache Software Foundation (ASF) under one
 * or more contributor license agreements.  See the NOTICE file
 * distributed with this work for additional information
 * regarding copyright ownership.  The ASF licenses this file
 * to you under the Apache License, Version 2.0 (the
 * "License"); you may not use this file except in compliance
 * with the License.  You may obtain a copy of the License at
 *
 *     http://www.apache.org/licenses/LICENSE-2.0
 *
 * Unless required by applicable law or agreed to in writing, software
 * distributed under the License is distributed on an "AS IS" BASIS,
 * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
 * See the License for the specific language governing permissions and
 * limitations under the License.
 */

package org.example;



import java.io.IOException;
import java.util.StringTokenizer;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
import org.apache.hadoop.util.GenericOptionsParser;

public class WordCount {

// Mapper类：将输入的文本数据分解为单词，并将每个单词与数字1（表示出现一次）配对。
    public static class TokenizerMapper extends Mapper<Object, Text, Text, IntWritable> {

        // 常量，表示单词出现一次
        private final static IntWritable one = new IntWritable(1);
        // 用于存储单词
        private Text word = new Text();

        /**
         * map方法：接收输入的键值对，并输出新的键值对。
         * 
         * @param key 输入的键，表示输入数据的偏移量（在这里不使用）
         * @param value 输入的值，表示一行文本
         * @param context 上下文对象，允许Mapper与Hadoop框架交互
         * @throws IOException
         * @throws InterruptedException
         */
        public void map(Object key, Text value, Context context) throws IOException, InterruptedException {
            // 使用StringTokenizer将每行文本分割为单词
            StringTokenizer itr = new StringTokenizer(value.toString());
            while (itr.hasMoreTokens()) {
                // 将下一个单词设置为word
                word.set(itr.nextToken());
                // 将单词与数字1写入上下文
                context.write(word, one);
            }
        }
    }

    // Reducer类：将Mapper输出的键值对进行汇总，计算每个单词的总出现次数。
    public static class IntSumReducer extends Reducer<Text, IntWritable, Text, IntWritable> {
        // 用于存储汇总结果
        private IntWritable result = new IntWritable();

        /**
         * reduce方法：接收Mapper输出的键值对，并输出新的键值对。
         * 
         * @param key 输入的键，表示一个单词
         * @param values 输入的值，表示该单词出现的次数
         * @param context 上下文对象，允许Reducer与Hadoop框架交互
         * @throws IOException
         * @throws InterruptedException
         */
        public void reduce(Text key, Iterable<IntWritable> values, Context context) throws IOException, InterruptedException {
            int sum = 0;
            // 遍历所有的值（每个值表示单词出现一次）
            for (IntWritable val : values) {
                // 累加单词出现次数
                sum += val.get();
            }
            // 将汇总结果设置为result
            result.set(sum);
            // 将单词与其总出现次数写入上下文
            context.write(key, result);
        }
    }

    public static void main(String[] args) throws Exception {
        Configuration conf = new Configuration();
        String[] otherArgs = new GenericOptionsParser(conf, args).getRemainingArgs();
        if (otherArgs.length < 2) {
            System.err.println("Usage: wordcount <in> [<in>...] <out>");
            System.exit(2);
        }
        Job job = Job.getInstance(conf, "word count");
        job.setJarByClass(WordCount.class);
        job.setMapperClass(TokenizerMapper.class);
        job.setCombinerClass(IntSumReducer.class);
        job.setReducerClass(IntSumReducer.class);
        job.setOutputKeyClass(Text.class);
        job.setOutputValueClass(IntWritable.class);
        for (int i = 0; i < otherArgs.length - 1; ++i) {
            FileInputFormat.addInputPath(job, new Path(otherArgs[i]));
        }
        FileOutputFormat.setOutputPath(job,
                new Path(otherArgs[otherArgs.length - 1]));
        System.exit(job.waitForCompletion(true) ? 0 : 1);
    }
}

2.4：初始化文件

在工程根目录新建input文件夹，增加两个文件

input
- file1.TXT
Hello Yaoyao
- file2.txt
Hello Hadoop

在这里插入图片描述

2.5:运行配置

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
配置完成后点击apply->ok

2.6:运行

在这里插入图片描述
– part-r-00000文件是结果文件
– _SUCCESS文件是成功标志
– _logs目录是日志目录

三、打包到服务器使用hadoop jar命令执行

3.1：pom.xml增加打包插件

  <build>
        <plugins>
            <!--指定主函数和各个依赖-->
            <plugin>
                <artifactId>maven-assembly-plugin</artifactId>
                <version>3.6.0</version>
                <configuration>
                    <archive>
                        <manifest>
                            <mainClass>org.example.WordCount</mainClass>
                        </manifest>
                    </archive>
                    <descriptorRefs>
                        <descriptorRef>jar-with-dependencies</descriptorRef>
                    </descriptorRefs>
                </configuration>
                <executions>
                    <execution>
                        <id>make-assembly</id>
                        <phase>package</phase>
                        <goals>
                            <goal>single</goal>
                        </goals>
                    </execution>
                </executions>
            </plugin>
        </plugins>
    </build>

3.2:maven打包

直接在终端执行命令：

mvn clean install

在这里插入图片描述
我们得到了jar包

/home/hadoop/JavaProject/wordCount/target/wordCount-1.0-SNAPSHOT-jar-with-dependencies.jar

jar包，也就是jar文件（Java Archive）。可以这么理解，它类似于zip包。但与zip文件不同的是，jar文件不仅用于压缩和发布，而且还用于部署和封装库、组件和插件程序，并可以被像编译器和 JVM 这样的工具直接使用。

3.3：使用java -jar执行

  • 在当前可执行jar目录初始化input文件夹
    在这里插入图片描述

  • 在当前目录打开命令行，执行以下命令，即可在当前目录生成output文件夹，里面就是执行结果。(注意，需要先启动hadoop)

   java -jar wordCount-1.0-SNAPSHOT-jar-with-dependencies.jar input output

在这里插入图片描述

3.4：将文件上传到hdfs，使用hadoop执行

1.在hdfs上创建wordCount/input文件夹，并且把本地的file1,file2上传

hadoop fs -mkdir -p /yaoyao/wordcount/input
#hadoop fs -mkdir -p /yaoyao/wordcount/output
#hadoop fs -chmod 777 /yaoyao/wordcount/output

更改输出文件权限，任何人有写权限。因为从本地直接使用服务器的大数据集群环境，服务器集群文件没有写权限。 （hadoop会自动生成输出目录，无需提前创建！！！否则报错！！！）

在这里插入图片描述

hadoop fs -copyFromLocal file1.txt /yaoyao/wordcount/input
hadoop fs -copyFromLocal file2.txt /yaoyao/wordcount/input

在这里插入图片描述

查看hdfs上传的input数据内容

hadoop fs -cat /yaoyao/wordcount/input/file1.txt
hadoop fs -cat /yaoyao/wordcount/input/file2.txt

在这里插入图片描述

2.使用hadoop命令执行jar包

hadoop jar wordCount-1.0-SNAPSHOT-jar-with-dependencies.jar /yaoyao/wordcount/input /yaoyao/wordcount/output

发现报错：

Exception in thread “main” org.apache.hadoop.mapred.FileAlreadyExistsException: Output directory hdfs://localhost:9000/yaoyao/wordcount/output already exists

在这里插入图片描述
原因：Hadoop 运行程序时，输出目录不能存在

因为Hadoop会自动创建输出目录。这样做可以确保在任务执行过程中不会出现命名冲突或并发写入问题。

将输出目录删除即可：

hadoop fs -rm -r /yaoyao/wordcount/output

但是运行又发现报错：

Error: Could not find or load main class org.apache.hadoop.mapreduce.v2.app.MRAppMaster
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.mapreduce.v2.app.MRAppMaster

在这里插入图片描述

原因分析：日志中有段Please check whether your <HADOOP_HOME>/etc/hadoop/mapred-site.xml contains the below configuration很明显说明配置文件有问题，按照提示将mapred-site.xml配置补全

cd /usr/local/hadoop/etc/hadoop/
sudo gedit mapred-site.xml


<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
    <property>
        <name>mapreduce.application.classpath</name>
        <value>$HADOOP_MAPRED_HOME/share/hadoop/mapreduce/*:$HADOOP_MAPRED_HOME/share/hadoop/mapreduce/lib/*</value>
    </property>
    <property>
      <name>yarn.app.mapreduce.am.env</name>
      <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>
    </property>
    <property>
      <name>mapreduce.map.env</name>
      <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>
    </property>
    <property>
      <name>mapreduce.reduce.env</name>
      <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>
    </property>
</configuration>

并重启yarn服务

# 先停止
/usr/local/hadoop/sbin/stop-yarn.sh
 
# 在启动
/usr/local/hadoop/sbin/start-yarn.sh

在这里插入图片描述
到jar所在目录，再次运行任务，就成功了

在这里插入图片描述
在这里插入图片描述

查看结果。

hadoop fs -cat /yaoyao/wordcount/output/part-r-00000
Hadoop	1
Hello	2
World	1

在这里插入图片描述

是瑶瑶子啦
关注
  • 9
    点赞
  • 踩
  • 25
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
示例程序WordCount的执行
需要远程指导仿真实验、代码有问题的，请后台私信或者关注公众号
06-25 2810
面对大数据，大数据的存储和处理，就好比一个人的左右手，显得尤为重要。Hadoop比较适合解决大数据问题，很大程度上依赖其大数据存储系统，即HDFS和大数据处理系统，即MapReduce。而对于MapReduce，单词计数是最简单也是最能体现 MapReduce 思想的程序之一，可以称为 MapReduce 版 “Hello World“，该程序的完整代码可以在 Hadoop 安装包的“src/examples“目录下找到。 单词计数主要完成功能是：统计一系列文本文件中每个单词出现的次数，如下图所示。 本实验
软工个人项目之词频统计
weixin_30314813的博客
09-07 290
GitHub仓库地址：https://github.com/ZCplayground/personal-project PSP 表格 PSP2.1 Personal Software Process Stages 预估耗时（分钟） 实际耗时（分钟） Planning 计划 20 60 · Estimate · 估计这个任务需要多少时间 20 60 Development 开发...
WordCount词频统计
热门推荐
weixin_44686879的博客
12-23 1万+
WordCount词频统计 from educoder实训 实训项目地址：https://www.educoder.net/shixuns/aekgf6pz/challenges 本关任务 词频统计是最能体现MapReduce思想的程序，结构简单，上手容易。 词频统计的大致功能是：统计单个或者多个文本文件中每个单词出现的次数，并将每个单词及其出现频率按照<k，v>键值对的形式输出，其基本执行流程如下图所示： 由图可知： 输入文本（可以不只一个），按行提取文本文档的单词，形成行<k1，v
头歌大数据MapReduce基础运用
zxc872202364的博客
10-17 8020
WordCount词频统计 HDFS文件读写 倒排索引 网页排序——PageRank算法 头歌
综合性HDFS实战——HDFS文件词频统计
hxxjxw的博客
07-05 1768
使用HDFS Java API完成HDFS文件系统上的文件的词频统计 词频统计：wordcount 将统计完的结果输出到HDFS上去 用mapreduce或者spark操作很简单，但是我们这里的要求是只允许使用HDFS API进行操作 功能拆解 ①读取HDFS上的文件 ==> HDFS API ②词频统计 ==> 对文件中的每一行数据进行 按照分隔符分割 ==> Mapper ③将处理结果缓存起来 ==> Context ④将结果输出到HDFS ==...
在 IntelliJ IDEA 中使用 Hadoop
shenpkun的博客
04-21 2983
在 IntelliJ IDEA 中使用 Hadoop
大数据实验报告Hadoop编程实现wordcount单词统计程序附源码.doc
12-06
大数据实验报告 Hadoop 编程实现 wordcount 单词统计程序附源码 本实验报告旨在介绍使用 Hadoop 编程实现 wordcount 单词统计程序的步骤和代码实现。实验的目的在于熟悉 Hadoop 虚拟机的安装与环境的配置，初步理解...
hadoop:WordCount词频统计以及倒排索引的hadoop实现
06-10
本项目主要探讨了两个重要的Hadoop应用：WordCount词频统计和倒排索引的实现。 首先，WordCount是Hadoop入门的经典示例，它用于统计文本中各个单词出现的频率。在Hadoop中，这一过程分为两个主要步骤：Map和Reduce...
词频统计hadoop mr
04-12
简单词频统计，带有注释，方便大家入门hadoop！具体的大家请自己看
大数据Hadoop、MapReduce、Hive项目实践
11-09
"大数据Hadoop、MapReduce、Hive项目实践" 大数据Hadoop、MapReduce、Hive项目实践是当前大数据处理领域中最流行的技术组合。本文将对大数据的概念、特性、应用场景，以及Hadoop、MapReduce、Hive等技术的架构、...
大数据技术实践之基于Spark的词频统计
03-05
【大数据技术实践之基于Spark的词频统计】项目旨在利用Spark技术对文档中的单词出现次数进行统计，以实现词频分析。此项目的目标是熟练掌握Spark的安装与配置，理解其核心理念，以及如何在实际操作中运用Spark进行大...
Flink学习3-WordCount词频统计
yuchenshu89757的博客
06-27 2524
基于Flink开发环境，接下来我们将完成Flink版本的词频统计程序，主要内容如下：输入几行句子，统计并输出句子中每个单词出现的次数，词与词之间通过空格分割。根据以上描述，词频统计程序主要包含数据读取、分词、统计和输出四个子模块。正式开发前还需要选择Flink处理模式，Flink是流批一体的大数据计算引擎，既支持流处理，也支持批处理，区别在这里就不再赘述，具体到这个需求，很显然采用批处理模式更合适，不过也可以采用流处理模式，相关实现后续会给出。...
MapReduce编写wordcount程序
m0_63716485的博客
10-30 1261
新手上路，MapReduce编写wordcount程序，包含了一些遇到的问题的解决办法。
wordcount单词词频统计
weixin_55008454的博客
02-22 1934
wordcount单词词频统计
【大数据技术】实验2：熟悉常用的HDFS操作和基于MapReduce的词频统计
qq_45614178的博客
07-27 2802
【大数据技术】实验2：熟悉常用的HDFS操作和基于MapReduce的词频统计
Hadoop 实战 | 词频统计WordCount
最新发布
m0_62249876的博客
01-10 2642
该程序基于Hadoop MapReduce框架实现了简单的单词计数功能，适用于大规模文本数据的并行处理。WordCount(词频统计)/* Map函数，处理每一行的文本 */input//Value使用Text类型表示文本行2：从文本中提取文档ID和实际文本内容snippet；3：使用空格、单引号和破折号作为分隔符，将文本snippet分词；for文本snippet中的每个单词：5： 去除特殊字符后将写入context，发射给Reducer；end for。
IDEA连接Linux上的Hadoop并对HDFS进行操作
ahahayaa的博客
03-26 6835
完成这些步骤后，就能够从Windows机器上的IDE中成功连接到Linux服务器上的Hadoop并对HDFS进行操作。属性的值为Linux服务器的IP地址，例如hdfs://192.168.1.100:9000，然后。如果你没有该冲突问题, 并且该语句让你的程序运行出了问题, 你可以将其去掉。PS:我在上述文件中加入了以下关于slf4j冲突所以去除依赖的语句。相关问题, 如果按照预先安装中的四个步骤应该没有这个问题。: 将放在Linux上面的Hadoop压缩包(, 不需要担心软件的系统适配问题。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

是瑶瑶子啦

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值