spark java pom.xml_对于maven创建spark项目的pom.xml配置文件(图文详解)

本文详细介绍了如何为基于Maven的Spark Java项目配置pom.xml文件,特别强调了Spark-Mllib库的版本选择,以及如何根据Scala版本选择对应的Spark依赖。提供了作者实际项目的pom.xml示例,供读者参考。
摘要由CSDN通过智能技术生成

不多说,直接上干货!

http://mvnrepository.com/

f061c5b23413762a5eb3f9d94d189f79.png

这里,怎么创建,见

这里, 我重点说下spark项目,因为,对于hadoop这样的,我已经写了大量博客了。

比如,我目前用得较多的spark-mllib。

34a3ca155dfdedbe1cb26ecf09735e28.png

这里spark-mllib_2.10 就是你的scala版本是2.10.X系列。比如我一般是使用scala-2.10.4。

这里spark-mllib_2.11 就是你的scala版本是2.11.X系列。

同时,大家要养成规范,http://mvnrepository.com里是示例如下

org.apache.spark

spark-mllib_2.10

2.2.0

provided

249b124c6933da245ac09030442fbf96.png

但是呢,我不建议这样。反而是把版本抽取出来,

47a862f52dc9a8b88e03b866640777f2.png

35b406e3f50c253abe8e863e39d9b2fa.png

以下是我的maven构建出来的spark项目的pom.xml,大家可以作为参考下。当然这不是最规范的。

4.0.0

zhouls.bigdata

SparkMllibBook

1.0-SNAPSHOT

2008

2.10.4

UTF-8

2.6.0

2.2.0

scala-tools.org

Scala-Tools Maven2 Repository

http://scala-tools.org/repo-releases

scala-tools.org

Scala-Tools Maven2 Repository

http://scala-tools.org/repo-releases

org.scala-lang

scala-library

${scala.version}

junit

junit

4.4

test

org.specs

specs

1.2.5

test

org.apache.hadoop

hadoop-common

${hadoop.version}

provided

org.apache.hadoop

hadoop-hdfs

${hadoop.version}

provided

org.apache.hadoop

hadoop-mapreduce-client-common

${hadoop.version}

provided

org.apache.hadoop

hadoop-mapreduce-client-core

${hadoop.version}

provided

org.apache.spark

spark-core_2.10

${spark.version}

provided

org.apache.spark

spark-streaming_2.10

${spark.version}

provided

org.apache.spark

spark-sql_2.10

${spark.version}

provided

org.apache.spark

spark-mllib_2.10

${spark.version}

provided

src/main/scala

src/test/scala

org.scala-tools

maven-scala-plugin

compile

testCompile

${scala.version}

-target:jvm-1.5

org.apache.maven.plugins

maven-eclipse-plugin

true

ch.epfl.lamp.sdt.core.scalabuilder

ch.epfl.lamp.sdt.core.scalanature

org.eclipse.jdt.launching.JRE_CONTAINER

ch.epfl.lamp.sdt.launching.SCALA_CONTAINER

org.scala-tools

maven-scala-plugin

${scala.version}

也许,大家在具体执行代码时,出现如下问题

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值