Gradle 配置Spark 2.0.0 + hadoop 2.8.0 + Mongo 3.4.2 文件配置

        由于Spark2.0.0以上默认2.11.x编译,所以对用哪个版本,可以自己选择,可以让gradle自行导入,如果出现错误,可以再进行解决.

一下是具体的配置文件,包含打包Task.

setting.gradle

rootProject.name = 'TestGradle3'



build.gradle

 
  group '项目包路径'
version '1.0-SNAPSHOT'

apply plugin: 'java'

/*add scala support*/
apply plugin: 'scala'
sourceCompatibility = 1.8



repositories {
    mavenLocal()
    mavenCentral()
}

sourceSets{
    main {
        scala{
            srcDirs = ['src/main/scala']
        }
        java{
            srcDirs = ['src/main/java']
        }

        resources{
            srcDirs = ['src/main/resources']
        }
    }


    test {
        scala{
            srcDirs  = ['src/test/scala']
        }

        java{
            srcDirs  = ['src/test/java']
        }

        resources{
            srcDirs = ['src/test/resources']
        }

    }
}

dependencies {
  
testCompile group: 'junit', name: 'junit', version: '4.12'

/* scala */
compile group: 'org.scala-lang', name: 'scala-library', version: '2.11.8'
compile group: 'org.scala-lang', name: 'scala-compiler', version: '2.11.8'
compile group: 'org.scala-lang', name: 'scalap', version: '2.11.8'

/* spark */
compile group: 'org.apache.spark', name: 'spark-core_2.11', version: '2.2.0'



/* hadoop */
compile group: 'org.apache.hadoop', name: 'hadoop-client', version: '2.7.3'



/*mongodb java Driver*/
compile group: 'org.mongodb', name: 'mongo-java-driver', version: '3.4.2'

/* spark connect to mongodb */
compile group: 'org.mongodb.spark', name: 'mongo-spark-connector_2.11', version: '2.2.1'

/* fastjson */
compile group: 'com.alibaba', name: 'fastjson', version: '1.2.44'
}
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值