【已解决】Class com.xxx.hadoop.mapreduce.WordCountDriver$WordCountMapper not found

问题解决:使用maven打的jar包有问题,使用Intellij Idea重新按照步骤打包即可(被自己坑死),具体步骤见下图,在此做个记录,方便以后查阅。

步骤:

        通过查看日志,在hadoop面板中找到你执行的application_xxxx,找到log点进去。提示最多的还是找不到我自己写的xxxmapper,在此之前,百度,bing翻阅了好多文章,解决思路有,挨个试了多次。

  1. 代码中设置job.setJarByClass(WordCountDriver.class); 或者job.setJar("/xxx/job/WordCountDriver.jar"),/xxx/job/是在服务器上创建存放jar的地址
  2. 代码设置configuration,configuration.set("mapred.jar",System.getProperty("user.dir")+"/WordCountDriver.jar")或者configuration.set("mapreduce.application.classpath", System.getProperty("user.dir"))
  3. 设置hadoop的mapred-site.xml,yarn-site.xml,增加property属性值

因为情况不同,所以都无效,因此怀疑是自己打包的问题。

        在重新打包之前,我先找到hadoop自带的 hadoop-mapreduce-examples-2.7.5.jar,在$HADOOP_HOME/share/hadoop/mapreduce下,就是自己安装hadoop的目录下,执行指令,xxxx替换成自己的地址。能成功运行,因此环境是没有问题的。

hadoop jar  /xxxx/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.5.jar  wordcount /input/c.txt /out

接着,重新按步骤打jar包

最后打完的jar包有META-INF文件

META-INF文件夹中有文件MANIFEST.MF,显示你指定的入口类

上传到服务器重新执行指令: hadoop jar /xxx/WordCountDriver.jar  /input/xxx.txt /out,成功输出

查看输出的out文件中的结果:

源文件:

结果:

---------------------------------------------分割线:问题描述-----------------------------------------------

环境:linux,hadoop-2.7.5,单点(自己练习用),能正常启动,hdfs的增删查一点毛病没有。

主程序:参考其他博主写的。

package com.guo.self.dubai.hadoop.mapreduce;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.conf.Configured;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
import org.apache.hadoop.util.Tool;
import org.apache.hadoop.util.ToolRunner;
import org.apache.hadoop.io.Text;

import java.io.IOException;

/**
 * @date:2023/8/25
 * @descripion: mapreduce的驱动类
 */
public class WordCountDriver extends Configured implements Tool {
    public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException {
        System.out.println("进入WordCountDriver主程序");
        Configuration configuration = new Configuration();
        try {
            //判断输出目录是否存在,若存在,则删除
            System.out.println("[WordCountDriver]输入路径:" +args[0]);
            System.out.println("[WordCountDriver]输出路径:" + args[1]);
            Path fileOutPath = new Path(args[1]);
            FileSystem fileSystem = FileSystem.get(configuration);
            if (fileSystem.exists(fileOutPath)) {
                fileSystem.delete(fileOutPath, true);
            }
            int status = ToolRunner.run(configuration, new WordCountDriver(), args);
            System.exit(status);
        } catch (Exception e) {
            e.printStackTrace();
        }
    }

    @Override
    public int run(String[] args) throws Exception {
        //1.获取配置及封装的任务
        Job job = Job.getInstance(this.getConf(),"myHadoopJob");
        //2.设置jar的加载路径
        job.setJarByClass(WordcountDriver.class);

        //3.设置mapper和reducer类
        job.setMapperClass(WordCountMapper.class);
        job.setReducerClass(WordCountReducer.class);
        System.out.println("[WordCountDriver]WordcountMapper:" + WordCountMapper.class);
        System.out.println("[WordCountDriver]WordcountReducer:" + WordCountReducer.class);
        //4.设置mapper输出
        job.setMapOutputKeyClass(Text.class);
        job.setMapOutputValueClass(IntWritable.class);
        //5.设置最终输出的kv类型
        job.setOutputKeyClass(Text.class);
        job.setOutputValueClass(IntWritable.class);
        //6.设置输入和输出路径
        FileInputFormat.addInputPath(job, new Path(args[0]));
        FileOutputFormat.setOutputPath(job, new Path(args[1]));
        // 7 提交
        boolean result = job.waitForCompletion(true);
        System.out.println("[WordCountDriver]运行至此");
        return (result) ? 0 : 1;

    }


    public static class WordCountMapper extends Mapper<LongWritable, org.apache.hadoop.io.Text, org.apache.hadoop.io.Text, IntWritable> {
        org.apache.hadoop.io.Text k = new org.apache.hadoop.io.Text();
        IntWritable v = new IntWritable(1);

        @Override
        protected void map(LongWritable key, org.apache.hadoop.io.Text value, Context context) throws IOException, InterruptedException {
            //1.获取一行
            String line = value.toString();
            //2.切割
            String[] words = line.split(" ");
            //3.输出
            for (String word : words) {
                k.set(word);
                context.write(k, v);
            }
        }
    }

    public  static  class WordCountReducer extends Reducer<org.apache.hadoop.io.Text, IntWritable, org.apache.hadoop.io.Text, IntWritable> {
        int sum;
        IntWritable v = new IntWritable();

        @Override
        protected void reduce(org.apache.hadoop.io.Text key, Iterable<IntWritable> values, Context context) throws IOException, InterruptedException {
            //1.累加求和
            sum = 0;
            for (IntWritable count : values) {
                sum += count.get();
            }
            //2.输出
            v.set(sum);
            context.write(key, v);
        }
    }
}

打包及执行:放到服务器的指定目录下,名字叫WordCountDriver.jar。执行指令:hadoop jar WordCountDriver.jar  /input/c.txt /out

报错截图:Error: java.lang.RuntimeException: java.lang.ClassNotFoundException: Class com.xxx.hadoop.mapreduce.WordCountDriver$WordCountMapper not found

  • 24
    点赞
  • 20
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 该错误信息出现在运行HBase的MapReduce程序时,会导致找不到或加载不了主类org.apache.hadoop.hbase.mapreduce.ex。 这个问题可能的原因有以下几种: 1. 缺少HBase的相关库文件,需要检查HBase的安装和配置是否正确。可以通过确保hbase-<version>-mapreduce.jar文件位于MapReduce程序的classpath中来解决此问题。 2. HBase的依赖库文件未加载正确,需要检查运行环境的CLASSPATH配置是否正确。可以通过设置HADOOP_CLASSPATH环境变量或修改hbase-env.sh文件来解决此问题。 3. HBase的相关配置文件未正确加载,需要确保hbase-site.xml文件能够正确地被HBase和MapReduce程序加载。可以通过检查是否在Hadoop的配置文件目录中,或者通过指定hbase-site.xml文件的位置来解决此问题。 4. HBase版本与Hadoop版本不匹配,这可能导致HBase的MapReduce程序无法正确加载。需要确保HBase和Hadoop版本兼容,并将相应的库文件和配置文件放置到正确的位置。 5. HBase的依赖库与其它程序的依赖库冲突,可能会导致类加载冲突问题。可以通过检查程序的依赖库以及排除冲突的库来解决此问题。 需要根据具体情况逐个排除以上可能的原因,来解决这个错误。 ### 回答2: 这个错误表示无法找到或加载名为"org.apache.hadoop.hbase.mapreduce.ex"的主类。 这个错误通常出现在运行使用Hadoop和HBase的MapReduce作业时。它表明系统无法找到指定的类文件,因此无法加载主类。 要解决这个问题,可以尝试以下几个步骤: 1. 检查类路径:确保Hadoop和HBase的相关JAR文件在类路径中正确配置。可以通过检查hadoop和hbase的lib目录中的jar文件是否存在来确定。 2. 检查代码和库版本:确认编译和运行代码使用的Hadoop和HBase库版本是否兼容。如果版本不匹配,可能会导致加载类失败。 3. 检查引用的类是否存在:确认代码中引用的"org.apache.hadoop.hbase.mapreduce.ex"类确实存在于HBase库中。如果不存在,可以尝试使用其他类或查找正确的类名。 4. 检查依赖关系:如果使用了其他第三方库或模块,请确保它们的依赖关系正确。有时候,缺少其他库或模块可能会导致主类加载失败。 5. 检查配置文件:检查Hadoop和HBase的配置文件是否正确配置。特别是检查相关的类路径配置是否正确。 6. 检查编译是否成功:确保代码被正确编译。可以尝试重新编译代码来解决任何编译错误。 通过检查上述步骤,您有望解决这个"error:could not find or load main class org.apache.hadoop.hbase.mapreduce.ex"错误。如果问题仍然存在,请考虑参考更详细的错误日志或咨询相关的技术支持。 ### 回答3: 这个错误提示说明在运行过程中找不到或加载不了指定的主类org.apache.hadoop.hbase.mapreduce.ex。 首先,我们需要确认是否已经正确设置了Hadoop和HBase的环境变量。需要确保Hadoop和HBase的相关jar文件已经正确添加到CLASSPATH中,并且HADOOP_HOME和HBASE_HOME环境变量已经设置。 其次,需要检查是否正确编写了代码。可能存在如下几个问题: 1. 类名写错:确认代码中org.apache.hadoop.hbase.mapreduce.ex的类名是否写错,确保类名的正确性。 2. 编译问题:确认代码已经正确编译,且编译时的依赖库是否正确引入。 3. jar包问题:检查是否已经正确导入了所有必要的jar文件,并确认jar包路径是否正确。 4. 包路径问题:确认类org.apache.hadoop.hbase.mapreduce.ex是否在正确的包路径下。 最后,如果以上步骤都没有问题,可以尝试重新编译和运行代码。如果问题仍然存在,可以尝试重新下载和安装Hadoop和HBase,确保使用的是最新版本,并且按照官方文档进行正确的配置。 总之,"error:could not find or load main class org.apache.hadoop.hbase.mapreduce.ex"错误提示表明无法找到或加载指定的主类。需要仔细检查环境变量、代码和依赖项是否设置正确,以及确认包路径是否正确。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值