hadoop2.7.6相关依赖包缺失

在Hadoop相关开发中,因很多时候大数据集群的版本比较低,例如CDH6.3.1所集成的是hadoop2.7.6版本,所以需要客户端开发时,也要做版本适配,需引入hadoop-common-2.7.6.jar,hadoop-hdfs.2.7.6.jar等jar包依赖。如下表

hadoop主要jar包依赖
jar包文件名
commons-collections-3.2.2.jar
guava-r07.jar
hadoop-auth-3.3.1.jar
hadoop-common-2.7.6.jar
hadoop-mapreduce-client-core-2.7.6.jar

仅引入以上jar还不足够,编译运行时仍然会遇到NoClassDefoundError错误,因为这些jar包还有其他依赖包。也就是传递性依赖。常见的错误和需要引入的依赖包如下

Exception in thread "main" java.lang. NoClassDefFoundError: com/google/common/base/Preconditions.
添加guava-30.1.1-jre.jar

java.lang.NoClassDefFoundError: org/apache/commons/collections/map/Unmodifiableap。

添加commons-collections-3.2.2.jar

java.lang.NoClassDefFoundError:org/apache/hadoop/util/PlatformName。
添加hadoop-auth-3.3.1.jar

java.lang.NoClassDefFoundError:com/google/common/base/Ticker
添加guava-30.1.1-jre.jar

java.lang NoClassDefFoundError:com/google/protobuf/ServiceException。
添加protobuf-java-3.17.3.jar

java.lang.NoClassDefFoundError:org/apache /htrace/SamplerBuilder
添加htrace-core-3.1.0-incubating.jar到项目中。这个包好像跟Hbase有关。

java.lang.NoClassDefFoundError:org/apache/commons/cli/ParseException。
添加commons-cli-1.5.jar到项目中。和Mapreduce有关。

如果项目的构建工具是gradle:

build.gradle

    implementation 'commons-configuration:commons-configuration:1.10'
    implementation 'commons-collections:commons-collections:3.2.2'
    implementation 'com.google.guava:guava:30.1-jre'
    implementation 'org.apache.hadoop:hadoop-auth:2.7.6'
    implementation 'commons-lang:commons-lang:2.6'
    implementation 'org.apache.htrace:htrace-core:3.1.0-incubating'
    implementation 'commons-cli:commons-cli:1.5.0'
    implementation 'com.google.protobuf:protobuf-java:3.9.1'
    implementation 'commons-io:commons-io:2.7'

如果是maven

持续更新。。。

        <dependency>
            <groupId>commons-configuration</groupId>
            <artifactId>commons-configuration</artifactId>
            <version>1.10</version>
        </dependency>
        <dependency>
            <groupId>commons-collections</groupId>
            <artifactId>commons-collections</artifactId>
            <version>3.2.2</version>
        </dependency>
        <!--only-->
        <dependency>
            <groupId>org.apache.htrace</groupId>
            <artifactId>htrace-core</artifactId>
            <version>3.1.0-incubating</version>
        </dependency>
        <dependency>
            <groupId>commons-io</groupId>
            <artifactId>commons-io</artifactId>
            <version>2.5</version>
        </dependency>
        <dependency>
            <groupId>org.codehaus.jackson</groupId>
            <artifactId>jackson-mapper-asl</artifactId>
            <version>1.9.13</version>
        </dependency>
        <dependency>
            <groupId>com.google.protobuf</groupId>
            <artifactId>protobuf-java</artifactId>
            <version>3.9.1</version>
        </dependency>
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-auth</artifactId>
            <version>2.7.6</version>
        </dependency>
        <dependency>
            <artifactId>guava</artifactId>
            <groupId>com.google.guava</groupId>
            <type>jar</type>
            <version>21.0</version>
        </dependency>
        <dependency>
            <groupId>commons-cli</groupId>
            <artifactId>commons-cli</artifactId>
            <version>1.5.0</version>
        </dependency>
        <dependency>
            <groupId>cc.siyecao.mapper</groupId>
            <artifactId>clover-mapper-common</artifactId>
            <version>3.0.4</version>
        </dependency>

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值