Windows Eclipse Scala编写WordCount程序

最新推荐文章于 2023-04-17 22:10:31 发布

mark_to_win

最新推荐文章于 2023-04-17 22:10:31 发布

阅读量224

点赞数

分类专栏： Spark和Scala 文章标签：马克-to-win 马克java社区 Eclipse Scala编写WordCount程序

本文链接：https://blog.csdn.net/mark_to_win/article/details/90436928

版权

Spark和Scala 专栏收录该内容

26 篇文章 0 订阅

订阅专栏

本文介绍如何在Windows上使用Eclipse和Scala编写WordCount程序。重点是配置Scala编译器为2.10.6版本，并设置Spark运行在local模式下。程序读取本地文件并进行单词计数，输出结果。详细步骤和代码示例提供。

摘要由CSDN通过智能技术生成

Windows Eclipse Scala编写WordCount程序：

1）马克-to-win @ 马克java社区：无需启动hadoop，因为我们用的是本地文件。先像原来一样，做一个普通的scala项目和Scala Object。

但这里一定注意版本是2.10.6,因为缺省的不好使。改的方法是：右击项目/properties/Scala Compiler.

2）像spark的java版WordCount项目一模一样导包，什么都一样。（导包的方法和原来普通的java项目一样）

例：5.1

package com
import org.apache.spark.SparkConf
import org.apache.spark.SparkContext
object WordCount {
def main(args: Array[String]) {
    val conf = new SparkConf();
    conf.setAppName("First Spark scala App马克-to-win @ 马克java社区：!");
    conf.setMaster("local");
    val sc = new SparkContext(conf);
    val lines = sc.textFile("E://temp//input//friend.txt", 1);
    val words = lines.flatMap { lines => lines.split(" ") };
    val pairs = words.map { word => (word, 1) }
    val wordCounts = pairs.reduceByKey(_ + _)
    wordCounts.foreach(wordNumberPair => println(wordNumberPair._1 + ":" + wordNumberPair._2))
}
}