spark-shell的wordcount的例子存档

启动spark-shell后  完成的第一示例:
完成Spark安装并启动后,就可以用Spark API执行数据分析查询了。
首先让我们用Spark API运行流行的Word Count示例。如果还没有运行Spark Scala Shell,首先打开一个Scala Shell窗口。这个示例的相关命令如下所示:
val txtFile = "README.md"
val txtData = sc.textFile(txtFile)
txtData.cache()
我们可以调用cache函数将上一步生成的RDD对象保存到缓存中,在此之后Spark就不需要在每次数据查询时都重新计算。需要注意的是,cache()是一个延迟操作。在我们调用cache时,Spark并不会马上将数据存储到内存中。只有当在某个RDD上调用一个行动时,才会真正执行这个操作。
现在,我们可以调用count函数,看一下在文本文件中有多少行数据。
txtData.count()
然后,我们可以执行如下命令进行字数统计。在文本文件中统计数据会显示在每个单词的后面。
val wcData = txtData.flatMap(l => l.split(" ")).map(word => (word, 1)).reduceByKey(_ + _)
wcData.collect().foreach(println)
参考链接地址:
http://www.infoq.com/cn/articles/apache-spark-introduction




  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
那太好了!现在你可以在Spark集群上运行分布式计算任务了。接下来,你可以使用以下步骤在Spark集群上运行一个简单的WordCount应用程序: 1. 在Spark Master节点上,使用以下命令启动Spark Master服务: ``` ./sbin/start-master.sh ``` 2. 访问Spark Master的web界面,在浏览器中输入:`http://<master-ip>:8080`。你应该能够看到Spark Master节点的状态和一些统计信息。 3. 在Spark Worker节点上,使用以下命令启动Spark Worker服务: ``` ./sbin/start-worker.sh spark://<master-ip>:7077 ``` 注意:在此命令中,`<master-ip>`应该替换为你的Spark Master节点的IP地址。 4. 访问Spark Master的web界面,你将看到Spark Worker节点已经成功连接到Spark Master。 5. 在Spark Master节点上,使用以下命令启动Spark Shell: ``` ./bin/spark-shell --master spark://<master-ip>:7077 ``` 注意:在此命令中,`<master-ip>`应该替换为你的Spark Master节点的IP地址。 6. 运行以下Spark代码来执行WordCount应用程序: ``` val textFile = sc.textFile("<path-to-input-file>") val wordCounts = textFile.flatMap(line => line.split(" ")).map(word => (word, 1)).reduceByKey(_ + _) wordCounts.saveAsTextFile("<path-to-output-file>") ``` 注意:在此代码中,`<path-to-input-file>`应该替换为你的输入文件的路径,`<path-to-output-file>`应该替换为你的输出文件的路径。 7. 查看输出文件,你将看到WordCount应用程序的结果。 希望这些步骤对你有所帮助!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值