IDEA中创建maven工程进行本地运行spark

在本文中,我们将使用IntelliJ IDEA(IDEA)创建一个Maven项目来编写并本地运行Spark的WordCount程序。首先,介绍了Spark在速度上的优势,以及在IDEA中创建Maven项目的步骤。接着,详细说明了如何添加Spark插件,并确保所有必要的本地JAR文件已到位。在编写代码部分,展示了使用Scala语言的Spark代码示例。最后,简述了运行程序并查看结果的过程,强调了IDEA在开发Spark应用时的便利性。
摘要由CSDN通过智能技术生成

一、开始

1.背景
  • 使用idea开发工具进行WordCount程序,也就是在本地进行spark的计算,真的很快很快,比Hadoop要快很多。
  • 这个是在生产环境中测试spark,虽然在spark-shell上测试的比较多,但是这样的我们也得会呀,关键是idea不平凡呀,这么好的软件不好好利用,好了,走程序,我们在idea中编写好程序然后打成jar包,最后提交到集群hdfs上。

二、创建、插件、编写

1.创建

1.创建一个Maven项目。一图胜千言,来吧。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
注意:
学过java的肯定要选class,这里不正确,当然可以选,但是在运行的时候还得加上object这个。原因我忘了,可能是因为scala语言的原因,等我再查。

2.插件

1.创建好后就要使用spark的插件,因为要在本地运行可以不用网络的情况

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值