Intellij IDEA安装配置Spark与运行

发财糕

已于 2024-03-27 11:00:18 修改

阅读量3.1k

点赞数 14

文章标签： intellij-idea spark java

于 2024-03-27 10:55:45 首次发布

发财糕

本文链接：https://blog.csdn.net/zhangfafa_c/article/details/136719400

版权

本文详细介绍了如何在Scala中配置Spark环境，包括IDEA设置、添加依赖，以及实现一个简单的单词计数程序，通过读取文件、处理数据并输出结果。

摘要由CSDN通过智能技术生成

Scala配置教程

IDEA配置Scala：教程

配置Spark运行环境

添加Spark开发依赖包（快捷键：Ctrl+Alt+Shift+S）

找到Spark安装目录下的jars文件夹，将整个文件夹导入

Spark编程环境配置完成

在com.tipdm.sparkDemo包下新建WordCount类并指定类型为object，编写spark程序实现单词计数器。

选择Dependencies勾选Scala-sdk-2.12.15和jars

添加Add Content root Root

选择jars点击ok

编写Spark程序

在Scala的基础上（教程）

1、包和导入

package com.tipdm.sparkDemo  
import org.apache.spark.{SparkConf, SparkContext}

这里定义了一个包（com.tipdm.sparkDemo），并导入了SparkConf和SparkContext这两个类，它们都是Apache Spark的核心组件。

2、定义对象

object WordCount {

这里定义了一个单例对象WordCount。在Scala中，对象可以包含方法和字段，并且可以作为程序的入口点。

3、主函数

def main(args: Array[String]): Unit = {

这是程序的入口点，main函数。它接收一个字符串数组作为参数（通常用于命令行参数），并返回Unit（在Scala中，这相当于Java中的void）。

4、创建Spark配置和上下文

val conf = new SparkConf().setAppName("WordCount").setMaster("local")
val sc = new SparkContext(conf)

首先，创建一个SparkConf对象并设置应用程序的名称为"WordCount"。然后，使用这个配置创建一个SparkContext对象，它是Spark应用程序的入口点。

5、定义输入文件路径

val input = "C:\\Users\\John\\Desktop\\words.txt"

这里定义了一个字符串变量input，它包含了要读取的文件的路径。

6、单词计数逻辑

val count = sc.textFile(input).flatMap(x => x.split(" ")).map(  
  x => (x, 1)).reduceByKey((x, y) => x + y)

* `sc.textFile(input)`：从指定的路径读取文件，并返回一个RDD（弹性分布式数据集），其中每个元素是文件中的一行。  
* `flatMap(x => x.split(" "))`：将每一行分割成单词，并扁平化结果。这意味着所有行的单词都会合并到一个单一的RDD中。  
* `map(x => (x, 1))`：为每个单词映射一个键值对，其中键是单词，值是1。这表示每个单词都出现了一次。  
* `reduceByKey((x, y) => x + y)`：对于具有相同键的所有值，执行reduce操作。在这里，它简单地将所有1相加，从而计算每个单词的出现次数。

7、输出结果

count.foreach(x => println(x._1 + "," + x._2))

使用foreach操作遍历结果RDD，并打印每个单词及其出现次数。x._1是键（单词），x._2是值（出现次数）。

整个程序会读取指定路径下的文件，计算每个单词的出现次数，并打印结果。这是一个使用Spark进行基本文本分析的常见示例。

words.txt放在桌面了所以路径为

C:\Users\John\Desktop\words.txt

words.txt文件内容为：

Hello World Our World
Hello BigData Real BigData
Hello Hadoop Great Hadoop
HadoopMapReduce

8、完整代码：

package com.tipdm.sparkDemo
import org.apache.spark.{SparkConf, SparkContext}
object WordCount {
  def main(args: Array[String]): Unit = {
    val conf = new SparkConf().setAppName("WordCount").setMaster("local")
    val sc = new SparkContext(conf)
      val input = "C:\\Users\\John\\Desktop\\words.txt"
    // 计算各个单词出现次数
    val count = sc.textFile(input).flatMap(x => x.split(" ")).map(
      x => (x, 1)).reduceByKey((x, y) => x + y)
    count.foreach(x => println(x._1 + "," + x._2))
  }
}

运行成功