spark:--spark-shell运行简单语句、用Idea编写例子--8

最新推荐文章于 2023-03-02 21:01:50 发布

一流小风一

最新推荐文章于 2023-03-02 21:01:50 发布

阅读量947

点赞数

分类专栏： spark

本文链接：https://blog.csdn.net/fenger1943/article/details/43564899

版权

这篇博客适合初学者，介绍了如何在Spark Shell上运行基本命令，并逐步讲解如何使用IntelliJ IDEA来编写和运行Spark应用程序。

摘要由CSDN通过智能技术生成

spark集群启动：MASTER=spark://host:port ./spark-shell
**********************************
在终端：hadoop fs -tail /lab/SogouQ.full
***********************************
scala> val data = sc.textFile("hdfs://server1:9000/lab/SogouQ.full")
***********************
scala> data.count//统计数据多少行在web端查看
*************************
scala> data.cache//速度飙升
***********************
scala> data.count
****************************
scala> data.map(_.split('\t')(0)).filter(_ < "20140202020202").count
***************************
scala> data.map(_.split('\t')(3)).filter(_.toInt == 1).count//计算收索排名第一的
****************************
scala> data.map(_.split('\t')).filter(_(3).toInt == 1).filter(_(4).toInt == 1).count//在这些收索排名第一的文件中有多少是第一次就被收索到的
**************************
sc