Spark经典案例之求平均值,最大最小值,求top值,非结构数据处理,统计每天新增用户数

最新推荐文章于 2023-07-20 01:41:34 发布

青龙悟空

最新推荐文章于 2023-07-20 01:41:34 发布

阅读量1.5k

点赞数

分类专栏： spark

本文链接：https://blog.csdn.net/qq_39674417/article/details/111884789

版权

本文介绍了使用Spark进行数据处理的经典案例，包括求平均值、最大最小值、Top值以及非结构数据处理。在非结构数据处理中，通过分析Tomcat日志计算URL访问情况。同时，展示了如何统计每天新增用户数。

摘要由CSDN通过智能技术生成

1、需求分析
对输入文件中数据进行就算学生平均成绩。输入文件中的每行内容均为一个学生的姓名和他相应的成绩，如果有多门学科，则每门学科为一个文件。
要求在输出中每行有两个间隔的数据，其中，第一个代表学生的姓名，第二个代表其平均成绩。

2、原始数据
1）math：
张三,88
李四,99
王五,66
赵六,77

2）china：
张三,78
李四,89
王五,96
赵六,67

3）english：
张三,80
李四,82
王五,84
赵六,86

样本输出：
张三,82
李四,90
王五,82
赵六,76

package ClassicCase
import org.apache.spark.{SparkConf, SparkContext}
/**
* 业务场景：求平局值
* Created by YJ on 2017/2/8.
*/
object case4 {
def main(args: Array[String]): Unit = {
val conf = new SparkConf().setMaster("local").setAppName("reduce")
val sc = new SparkContext(conf)
sc.setLogLevel("ERROR")
val four = sc.textFile("hdfs://192.168.109.130:8020//user/flume/ClassicCase/case4/*", 3)
val a = four.filter(_.trim.length > 0) //数据过滤
.map(line => //数据整理
(line.trim().split(",")(0), line.trim.split(",")(1).toInt)
)
.groupByKey() //按key分组 (张三,CompactBuffer(78, 80, 88))
.map(x => {
var num = 0.0
var sum = 0
for (i <- x._2) {
//遍历该值
sum = sum + i
num = num + 1
}
val avg = sum / num
val fm = f"$avg%1.2f" //1.2->取后面两位小数,格式化数据
println("fm:"+fm)
(x._1, fm)
}
).collect.foreach(x => println(x._1+"\t"+x._2))
//资源学习
var floatVar = 12.456
var intVar = 2000
var stringVar = "资源学习!"
var fs = printf(
"浮点型变量为 " + "%1.2f, " +
"整型变量为 " + "%d,"+
"字符串为 " + " %s", floatVar, intVar, stringVar)
println(fs)
}
}

输出结果
fm:90.00
fm:82.00
fm:82.00
fm:76.67
李四 90.00
王五 82.00
张三 82.00
赵六 76.67
浮点型变量为 12.46, 整型变量为 2000,字符串为资源学习!()

数据准备
eightteen_a.txt
102
10
39
109
200
11
3
90
28

eightteen_b.txt
5
2
30
838
10005

关注

专栏目录