既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!
由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新
## filter方法
功能:过滤想要的数据进行保留
from pyspark import SparkConf, SparkContext
import os
os.environ[‘pyspark_python’] = “D:/python/JIESHIQI/python.exe”
#创建一个sparkconf类对象
conf = SparkConf().setMaster(“local[*]”).setAppName(“test_spark_app”)
#基于sparkconf类对象创建sparkcontext类对象
sc = SparkContext(conf=conf)
#准备一个rdd
rdd = sc.parallelize([1,2,3,4,5])
#对rdd的数据进行过滤
rdd2 = rdd.filter(lambda num: num % 2 == 0)
print(rdd2.collect()) #[2, 4]
## distinct算子
功能:对rdd数据进行去重,返回新rdd
from pyspark import SparkConf, SparkContext
import os
os.environ[‘pyspark_python’] = “D:/python/JIESHIQI/python.exe”
#创建一个sparkconf类对象
conf = SparkConf().setMaster(“local[*]”).setAppName(“test_spark_app”)
#基于sparkconf类对象创建sparkcontext类对象
sc = SparkContext(conf=conf)
#准备一个rdd
rdd = sc.parallelize([1,2,3,4,5,2,1,3,4,5])
#对rdd的数据进行过滤
rdd2 = rdd.filter(lambda num: num % 2 == 0)
print(rdd.distinct().collect())
#[1, 2, 3, 4, 5]
## sortby算子
功能:对rdd数据进行排序,基于你指定的排序依据
from pyspark import SparkConf, SparkContext
import os
os.environ[‘pyspark_python’] = “D:/python/JIESHIQI/python.exe”
#创建一个sparkconf类对象
conf = SparkConf().setMaster(“local[*]”).setAppName(“test_spark_app”)
#基于sparkconf类对象创建sparkcontext类对象
sc = SparkContext(conf=conf)
#读取文件信息
rdd = sc.textFile(“D:/hello.txt”)
#取出全部的单词
word_rdd = rdd.flatMap(lambda x: x.split(" "))
print(word_rdd.collect())
#[‘apple’, ‘bean’, ‘banana’, ‘spark’, ‘haoop’, ‘python’, ‘java’, ‘go’, ‘c++’]
#将所有单词都转换成二元元组,单词为key,value设置为1
rdd2 = word_rdd.map(lambda word: (word, 1))
print(rdd2.collect())
#[(‘apple’, 1), (‘bean’, 1), (‘banana’, 1), (‘spark’, 1), (‘haoop’, 1), (‘python’, 1), (‘java’, 1), (‘go’, 1), (‘c++’, 1)]
#分组并求和
rdd3 = rdd2.reduceByKey(lambda a, b: a+b)
print(rdd3.collect())
#对结果进行排序
final_rdd = rdd3.sortBy(lambda x: x[1],ascending=True,numPartitions=1)
print(final_rdd)
## 练习案例
需求,复制以上内容到文件中,使用Spark读取文件进行计算:
•各个城市销售额排名,从大到小
•全部城市,有哪些商品类别在售卖
•北京市有哪些商品类别在售卖
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!
由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新
、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新**