Python大数据之PySpark(三)使用Python语言开发Spark程序代码

最新推荐文章于 2024-06-13 22:45:51 发布
最新推荐文章于 2024-06-13 22:45:51 发布
阅读量1.9k 收藏 10
点赞数 2
分类专栏： # PySpark python大数据 文章标签： 大数据 python spark
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xianyu120/article/details/133321102
版权

文章目录

使用Python语言开发Spark程序代码

  • Spark Standalone的PySpark的搭建----bin/pyspark --master spark://node1:7077
  • Spark StandaloneHA的搭建—Master的单点故障(node1，node2)，zk的leader选举机制，1-2min还原
  • 【scala版本的交互式界面】bin/spark-shell --master xxx
  • 【python版本交互式界面】bin/pyspark --master xxx
  • 【提交任务】bin/spark-submit --master xxxx

【学会配置】Windows的PySpark环境配置

  • 1-安装Andaconda
  • 2-在Anaconda Prompt中安装PySpark
  • image-20210908144350427
  • 3-执行安装
  • image-20210908144455836
  • 4-使用Pycharm构建Project(准备工作)
  • 需要配置anaconda的环境变量–参考课件
  • 需要配置hadoop3.3.0的安装包，里面有winutils，防止pycharm写代码的过程中报错

补充：
在这里插入图片描述

在这里插入图片描述

PyCharm构建Python project

  • 项目规划
  • 项目名称：Bigdata25-pyspark_3.1.2
  • image-20210908145247805
  • 模块名称：PySpark-SparkBase_3.1.2,PySpark-SparkCore_3.1.2,PySpark-SparkSQL_3.1.2
  • image-20210908145538052
  • 文件夹：
  • main pyspark的代码
  • data 数据文件
  • config 配置文件
  • test 常见python测试代码放在test中

应用入口：SparkContext

  • http://spark.apache.org/docs/latest/rdd-programming-guide.html
  • image-20210908145815535
  • image-20210908150026543

WordCount代码实战

  • 需求：给你一个文本文件，统计出单词的数量

  • 算子：rdd的api的操作，就是算子，flatMap扁平化算子，map转换算子

  • Transformation算子

  • Action算子

  • 步骤：

  • 1-首先创建SparkContext上下文环境
    2-从外部文件数据源读取数据
    3-执行flatmap执行扁平化操作
    4-执行map转化操作，得到(word,1)
    5-reduceByKey将相同Key的Value数据累加操作
    6-将结果输出到文件系统或打印

  • 代码：

# -*- coding: utf-8 -*-
# Program function： Spark的第一个程序
# 1-思考：sparkconf和sparkcontext从哪里导保
# 2-如何理解算子？Spark中算子有2种，
# 一种称之为Transformation算子(flatMapRDD-mapRDD-reduceBykeyRDD)，
# 一种称之为Action算子（输出到控制台，或文件系统或hdfs），比如collect或saveAsTextFile都是Action算子
from pyspark import SparkConf,SparkContext

if __name__ == '__main__':
   # 1 - 首先创建SparkContext上下文环境
   conf = SparkConf().setAppName("FirstSpark").setMaster("local[*]")
   sc = SparkContext(conf=conf)
   sc.setLogLevel("WARN")#日志输出级别
   # 2 - 从外部文件数据源读取数据
   fileRDD = sc.textFile("D:\BigData\PyWorkspace\Bigdata25-pyspark_3.1.2\PySpark-SparkBase_3.1.2\data\words.txt")
   # print(type(fileRDD))#<class 'pyspark.rdd.RDD'>
   # all the data is loaded into the driver's memory.
   # print(fileRDD.collect())
   # ['hello you Spark Flink', 'hello me hello she Spark']
   # 3 - 执行flatmap执行扁平化操作
   flat_mapRDD = fileRDD.flatMap(lambda words: words.split(" "))
   # print(type(flat_mapRDD))
   # print(flat_mapRDD.collect())
   #['hello', 'you', 'Spark', 'Flink', 'hello', 'me', 'hello', 'she', 'Spark']
   # # 4 - 执行map转化操作，得到(word, 1)
   rdd_mapRDD = flat_mapRDD.map(lambda word: (word, 1))
   # print(type(rdd_mapRDD))#<class 'pyspark.rdd.PipelinedRDD'>
   # print(rdd_mapRDD.collect())
   # [('hello', 1), ('you', 1), ('Spark', 1), ('Flink', 1), ('hello', 1), ('me', 1), ('hello', 1), ('she', 1), ('Spark', 1)]
   # 5 - reduceByKey将相同Key的Value数据累加操作
   resultRDD = rdd_mapRDD.reduceByKey(lambda x, y: x + y)
   # print(type(resultRDD))
   # print(resultRDD.collect())
   # [('Spark', 2), ('Flink', 1), ('hello', 3), ('you', 1), ('me', 1), ('she', 1)]
   # 6 - 将结果输出到文件系统或打印
   resultRDD.saveAsTextFile("D:\BigData\PyWorkspace\Bigdata25-pyspark_3.1.2\PySpark-SparkBase_3.1.2\data\output\wordsAdd")
   # 7-停止SparkContext
   sc.stop()#Shut down the SparkContext.

  • 总结：

  • image-20210908151231799

TopK需求

需求：[(‘Spark’, 2), (‘Flink’, 1), (‘hello’, 3), (‘you’, 1), (‘me’, 1), (‘she’, 1)]

排序：[ (‘hello’, 3),(‘Spark’, 2),]

共识：Spark核心或灵魂是rdd，spark的所有操作都是基于rdd的操作

代码：

# -*- coding: utf-8 -*-
# Program function： 针对于value单词统计计数的排序
# 1-思考：sparkconf和sparkcontext从哪里导保
# 2-如何理解算子？Spark中算子有2种，
# 一种称之为Transformation算子(flatMapRDD-mapRDD-reduceBykeyRDD)，
# 一种称之为Action算子（输出到控制台，或文件系统或hdfs），比如collect或saveAsTextFile都是Action算子
from pyspark import SparkConf, SparkContext

if __name__ == '__main__':
# 1 - 首先创建SparkContext上下文环境
conf = SparkConf().setAppName("FirstSpark").setMaster("local[*]")
sc = SparkContext(conf=conf)
sc.setLogLevel("WARN")  # 日志输出级别
# 2 - 从外部文件数据源读取数据
fileRDD = sc.textFile("D:\BigData\PyWorkspace\Bigdata25-pyspark_3.1.2\PySpark-SparkBase_3.1.2\data\words.txt")
# print(type(fileRDD))#<class 'pyspark.rdd.RDD'>
# all the data is loaded into the driver's memory.
# print(fileRDD.collect())
# ['hello you Spark Flink', 'hello me hello she Spark']
# 3 - 执行flatmap执行扁平化操作
flat_mapRDD = fileRDD.flatMap(lambda words: words.split(" "))
# print(type(flat_mapRDD))
# print(flat_mapRDD.collect())
# ['hello', 'you', 'Spark', 'Flink', 'hello', 'me', 'hello', 'she', 'Spark']
# # 4 - 执行map转化操作，得到(word, 1)
rdd_mapRDD = flat_mapRDD.map(lambda word: (word, 1))
# print(type(rdd_mapRDD))#<class 'pyspark.rdd.PipelinedRDD'>
# print(rdd_mapRDD.collect())
# [('hello', 1), ('you', 1), ('Spark', 1), ('Flink', 1), ('hello', 1), ('me', 1), ('hello', 1), ('she', 1), ('Spark', 1)]
# 5 - reduceByKey将相同Key的Value数据累加操作
resultRDD = rdd_mapRDD.reduceByKey(lambda x, y: x + y)
# print(type(resultRDD))
print(resultRDD.collect())
# [('Spark', 2), ('Flink', 1), ('hello', 3), ('you', 1), ('me', 1), ('she', 1)]
# 6 针对于value单词统计计数的排序
print("==============================sortBY=============================")
print(resultRDD.sortBy(lambda x: x[1], ascending=False).take(3))
# [('hello', 3), ('Spark', 2), ('Flink', 1)]
print(resultRDD.sortBy(lambda x: x[1], ascending=False).top(3, lambda x: x[1]))
print("==============================sortBykey=============================")
print(resultRDD.map(lambda x: (x[1], x[0])).collect())
# [(2, 'Spark'), (1, 'Flink'), (3, 'hello'), (1, 'you'), (1, 'me'), (1, 'she')]
print(resultRDD.map(lambda x: (x[1], x[0])).sortByKey(False).take(3))
#[(3, 'hello'), (2, 'Spark'), (1, 'Flink')]
# 7-停止SparkContext
sc.stop()  # Shut down the SparkContext.
  • sortBy
  • sortByKey操作

从HDFS读取数据

# -*- coding: utf-8 -*-
# Program function： 从HDFS读取文件

from pyspark import SparkConf, SparkContext
import time
if __name__ == '__main__':
 # 1 - 首先创建SparkContext上下文环境
 conf = SparkConf().setAppName("FromHDFS").setMaster("local[*]")
 sc = SparkContext(conf=conf)
 sc.setLogLevel("WARN")  # 日志输出级别
 # 2 - 从外部文件数据源读取数据
 fileRDD = sc.textFile("hdfs://node1:9820/pydata/input/hello.txt")
 # ['hello you Spark Flink', 'hello me hello she Spark']
 # 3 - 执行flatmap执行扁平化操作
 flat_mapRDD = fileRDD.flatMap(lambda words: words.split(" "))
 # ['hello', 'you', 'Spark', 'Flink', 'hello', 'me', 'hello', 'she', 'Spark']
 # # 4 - 执行map转化操作，得到(word, 1)
 rdd_mapRDD = flat_mapRDD.map(lambda word: (word, 1))
 # [('hello', 1), ('you', 1), ('Spark', 1), ('Flink', 1), ('hello', 1), ('me', 1), ('hello', 1), ('she', 1), ('Spark', 1)]
 # 5 - reduceByKey将相同Key的Value数据累加操作
 resultRDD = rdd_mapRDD.reduceByKey(lambda x, y: x + y)
 # print(type(resultRDD))
 print(resultRDD.collect())

 # 休息几分钟
 time.sleep(600)

 # 7-停止SparkContext
 sc.stop()  # Shut down the SparkContext.
  • image-20210908162236877

提交代码到集群执行

  • 关键：sys.argv[1],

  • 代码：

# -*- coding: utf-8 -*-
# Program function： 提交任务执行

import sys

from pyspark import SparkConf, SparkContext

if __name__ == '__main__':
   # 1 - 首先创建SparkContext上下文环境
   conf = SparkConf().setAppName("FromHDFS").setMaster("local[*]")
   sc = SparkContext(conf=conf)
   sc.setLogLevel("WARN")  # 日志输出级别
   # 2 - 从外部文件数据源读取数据
   # hdfs://node1:9820/pydata/input/hello.txt
   fileRDD = sc.textFile(sys.argv[1])
   # ['hello you Spark Flink', 'hello me hello she Spark']
   # 3 - 执行flatmap执行扁平化操作
   flat_mapRDD = fileRDD.flatMap(lambda words: words.split(" "))
   # ['hello', 'you', 'Spark', 'Flink', 'hello', 'me', 'hello', 'she', 'Spark']
   # # 4 - 执行map转化操作，得到(word, 1)
   rdd_mapRDD = flat_mapRDD.map(lambda word: (word, 1))
   # [('hello', 1), ('you', 1), ('Spark', 1), ('Flink', 1), ('hello', 1), ('me', 1), ('hello', 1), ('she', 1), ('Spark', 1)]
   # 5 - reduceByKey将相同Key的Value数据累加操作
   resultRDD = rdd_mapRDD.reduceByKey(lambda x, y: x + y)
   # print(type(resultRDD))
   resultRDD.saveAsTextFile(sys.argv[2])
   # 7-停止SparkContext
   sc.stop()  # Shut down the SparkContext.

  • 结果：

  • image-20210908163511002

[掌握-扩展阅读]远程PySpark环境配置

  • 需求：需要将PyCharm连接服务器，同步本地写的代码到服务器上，使用服务器上的Python解析器执行

  • 步骤：

  • 1-准备PyCharm的连接

  • image-20210908165610584

  • 2-需要了解服务器的地址，端口号，用户名，密码

  • image-20210908170032747

  • image-20210908170104336

  • image-20210908170248401

  • 设置自动的上传，如果不太好使，重启pycharm

  • image-20210908170359115

  • 3-pycharm读取的文件都需要上传到linux中，复制相对路径

  • image-20210908170618187

  • 4-执行代码在远程服务器上

  • image-20210908170937519

  • 5-执行代码

# -*- coding: utf-8 -*-
# Program function： Spark的第一个程序
# 1-思考：sparkconf和sparkcontext从哪里导保
# 2-如何理解算子？Spark中算子有2种，
# 一种称之为Transformation算子(flatMapRDD-mapRDD-reduceBykeyRDD)，
# 一种称之为Action算子（输出到控制台，或文件系统或hdfs），比如collect或saveAsTextFile都是Action算子
from pyspark import SparkConf, SparkContext

if __name__ == '__main__':
 # 1 - 首先创建SparkContext上下文环境
 conf = SparkConf().setAppName("FirstSpark").setMaster("local[*]")
 sc = SparkContext(conf=conf)
 sc.setLogLevel("WARN")  # 日志输出级别
 # 2 - 从外部文件数据源读取数据
 fileRDD = sc.textFile("/export/data/pyspark_workspace/PySpark-SparkBase_3.1.2/data/words.txt")
 # fileRDD = sc.parallelize(["hello you", "hello me", "hello spark"])
 # 3 - 执行flatmap执行扁平化操作
 flat_mapRDD = fileRDD.flatMap(lambda words: words.split(" "))
 # print(type(flat_mapRDD))
 # print(flat_mapRDD.collect())
 # ['hello', 'you', 'Spark', 'Flink', 'hello', 'me', 'hello', 'she', 'Spark']
 # # 4 - 执行map转化操作，得到(word, 1)
 rdd_mapRDD = flat_mapRDD.map(lambda word: (word, 1))
 # print(type(rdd_mapRDD))#<class 'pyspark.rdd.PipelinedRDD'>
 # print(rdd_mapRDD.collect())
 # [('hello', 1), ('you', 1), ('Spark', 1), ('Flink', 1), ('hello', 1), ('me', 1), ('hello', 1), ('she', 1), ('Spark', 1)]
 # 5 - reduceByKey将相同Key的Value数据累加操作
 resultRDD = rdd_mapRDD.reduceByKey(lambda x, y: x + y)
 # print(type(resultRDD))
 print(resultRDD.collect())
 # [('Spark', 2), ('Flink', 1), ('hello', 3), ('you', 1), ('me', 1), ('she', 1)]
 # 6 - 将结果输出到文件系统或打印
 # resultRDD.saveAsTextFile("D:\BigData\PyWorkspace\Bigdata25-pyspark_3.1.2\PySpark-SparkBase_3.1.2\data\output\wordsAdd")
 # 7-停止SparkContext
 sc.stop()  # Shut down the SparkContext.

  • 切记忘记上传python的文件，直接执行

  • 注意1：自动上传设置

  • image-20210908172418251

  • 注意2：增加如何使用standalone和HA的方式提交代码执行

  • 但是需要注意，尽可能使用hdfs的文件，不要使用单机版本的文件，因为standalone是集群模式

# -*- coding: utf-8 -*-

# Program function： Spark的第一个程序

# 1-思考：sparkconf和sparkcontext从哪里导保

# 2-如何理解算子？Spark中算子有2种，

# 一种称之为Transformation算子(flatMapRDD-mapRDD-reduceBykeyRDD)，

# 一种称之为Action算子（输出到控制台，或文件系统或hdfs），比如collect或saveAsTextFile都是Action算子

>from pyspark import SparkConf, SparkContext
>
>if __name__ == '__main__':
>
># 1 - 首先创建SparkContext上下文环境
>
>conf = SparkConf().setAppName("FirstSpark").setMaster("spark://node1:7077,node2:7077")
>sc = SparkContext(conf=conf)
>sc.setLogLevel("WARN")  # 日志输出级别
>
># 2 - 从外部文件数据源读取数据
>
>fileRDD = sc.textFile("hdfs://node1:9820/pydata/input/hello.txt")
>
># fileRDD = sc.parallelize(["hello you", "hello me", "hello spark"])
>
># 3 - 执行flatmap执行扁平化操作
>
>flat_mapRDD = fileRDD.flatMap(lambda words: words.split(" "))
>
># print(type(flat_mapRDD))
>
># print(flat_mapRDD.collect())
>
># ['hello', 'you', 'Spark', 'Flink', 'hello', 'me', 'hello', 'she', 'Spark']
>
># # 4 - 执行map转化操作，得到(word, 1)
>
>rdd_mapRDD = flat_mapRDD.map(lambda word: (word, 1))
>
># print(type(rdd_mapRDD))#<class 'pyspark.rdd.PipelinedRDD'>
>
># print(rdd_mapRDD.collect())
>
># [('hello', 1), ('you', 1), ('Spark', 1), ('Flink', 1), ('hello', 1), ('me', 1), ('hello', 1), ('she', 1), ('Spark', 1)]
>
># 5 - reduceByKey将相同Key的Value数据累加操作
>
>resultRDD = rdd_mapRDD.reduceByKey(lambda x, y: x + y)
>
># print(type(resultRDD))
>
>print(resultRDD.collect())
>
># [('Spark', 2), ('Flink', 1), ('hello', 3), ('you', 1), ('me', 1), ('she', 1)]
>
># 6 - 将结果输出到文件系统或打印
>
># resultRDD.saveAsTextFile("D:\BigData\PyWorkspace\Bigdata25-pyspark_3.1.2\PySpark-SparkBase_3.1.2\data\output\wordsAdd")
>
># 7-停止SparkContext
>
>sc.stop()  # Shut down the SparkContext.

总结

  • 函数式编程

  • #Python中的函数式编程
#1-map(func, *iterables) --> map object
def fun(x):
    return x*x
#x=[1,2,3,4,5] y=map(fun,[1,2,3,4,5]) #[1, 4, 9, 16, 25]
print(list(map(fun, [1, 2, 3, 4, 5])))
#2-lambda 匿名函数  java: x=>x*x 表达式  Scala:x->x*x
g=lambda x:x*x
print(g(10))
print(list(map(lambda x:x*x, [1, 2, 3, 4, 5])))
def add(x,y):
    return x+y

print(list(map(add, range(5), range(5, 10))))
print(list(map(lambda x,y:x+y,range(5),range(5,10))))
#3- [add(x,y) for x,y in zip(range(5),range(5,10))]

# print(list(zip([1, 2, 3], [4, 5, 6])))#[1,4],[2,5]
# print(list(zip([1, 2, 3], [4, 5, 6,7])))#[1,4],[2,5]
# print(list(zip([1, 2, 3,6], [4, 5, 6])))#[1,4],[2,5]

# 语法 lambda表达式语言：【lambda 变量：表达式】
# 列表表达式 [表达式 for 变量 in 可迭代的序列中 if 条件]
print([add(x, y) for x, y in zip(range(5), range(5))])
#[0, 2, 4, 6, 8]
#3-reduce
from functools import  reduce
# ((((1+2)+3)+4)+5)
print(reduce(lambda x, y: x + y, [1, 2, 3, 4, 5]))



# 4-filter
seq1=['foo','x41','?1','***']
def func(x):
    #Return True if the string is an alpha-numeric string
    return x.isalnum()
print(list(filter(func,seq1))) #返回 filter 对象

# sorted()
# 最后我们可以看到，函数式编程有如下好处：
# 1）代码更简单了。
# 2）数据集，操作，返回值都放到了一起。
# 3）你在读代码的时候，没有了循环体，于是就可以少了些临时变量，以及变量倒来倒去逻辑。
# 4）你的代码变成了在描述你要干什么，而不是怎么去干。

    后记

📢博客主页：https://manor.blog.csdn.net

📢欢迎点赞 👍 收藏 ⭐留言 📝 如有错误敬请指正！
📢本文由 Maynor 原创，首发于 CSDN博客🙉
📢感觉这辈子，最深情绵长的注视，都给了手机⭐
📢专栏持续更新,欢迎订阅：https://blog.csdn.net/xianyu120/category_12453356.html

AIMaynor
关注
  • 2
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
PySpark 学习笔记一
01-12 8687
为了更好地进行大数据分析与处理，最近在学习PySpark，整理了一下笔记 ，加深印象。 1 Resilient Distributed Datasets（RDD） 弹性分布式数据集（RDD）是一个不可变的JVM对象的分布式集合，是Spark的基本抽象。 1.1 创建RDD 准备工作： >>> import pyspark >>> from pyspark import SparkC
Win10下安装Spark（Python+Local版+非虚拟机版）
PyQuant
03-26 1099
由于大部分学生用的都是windows系统，而且博主也是windows系统，所以想在win10上安装Spark学习大数据分析，于是开始搜索相关的文章，通过亲自挖坑Spark学习发现大多博文都比较混乱（但是自己却学会了相关很多知识），结合实际情况博主认为大家有一下四类需求（因为博主比较熟悉Python，所以只分析Python语言版，至于Scala语言版可以查询相关文献资料）： （1）Win10下安装Spark（Python+Local版+非虚拟机版）：Local版即单机版，也就是说用户无需集群版（事实上，仅仅做
PySpark（Spark3.0）
小宇的博客
04-22 4458
PySpark（Spark3.0） PySpark简单来说就是Spark提供的Python编程API，包括交互式的PySpark shell和非交互式的Python程序。 1.环境 Spark3.0 Hadooop3.2 Centos7 Python3.6.8 Pycharm Windos10 其中值得注意的是Python的版本必须是3.6+，以下是Spark官网的说明 前提 ​ Spark3.0的集群已经搭建完毕，本文使用的是Standalone模式的集群 ​ Hadoop3.2分布式集群
Python第二语言（十三、PySpark实战）
最新发布
光就是羁绊之力，它会再度被某人继承，散发出耀眼的光。
06-13 1294
Apache Spark是用于大规模数据（large-scala data）处理的统一（unifield）分析引擎；Spark是一款分布式的计算框架，用于调度成百上千的服务器集群，计算TB、PB乃至EB级别的海量数据；Python On Spark：Python语言，是Spark重点支持的方向；PySpark是由Spark官方开发的Python语言第三方库；Python开发者可以使用pip程序快速安装PySpark并像其它第三方库一样使用；主要作用：进行数据处理；
Python3：Python+spark编程实战
01-27
本文来自csdn，本文简单介绍了Python+spark的配置运行及实例介绍，希望对您的学习有所启迪。0.1配置可参考：0.2有关spark说明：spark不兼容Python3.6安装注意版本可下载：anaconda4.21.1数据student.txt1.2代码1.3结果展示2.1函数解析2.1.1collect()RDD的特性在进行基本RDD“转换”运算时不会立即执行，结果不会显示在显示屏中，collect（）是一个“动作”运算，会立刻执行，显示结果。2.1
PySpark实战（三）——活用PySpark（Python基础语法复习 & 建立第一个Spark RDD & RDD的操作 [ 见PySpark_operation.ipynb文件 ]）
Stack It Up
03-20 1099
RDD操作，Python复习
spark(scala,python)的基本概念，调优，常见错误问题分析
qq_16446137的博客
02-26 289
spark-scala的基本概念，调优，常见错误问题分析 spark(scala,python)的基本概念，调优，常见错误问题分析 主要介绍spark的基本概念及对应数据在集群（yarn）上的配置调优，以及在运行中的常见问题定位，方便快速学习spark基础知识，上手开发 基本概念 sparkSession和sparkContext区别:sparkContext一般也叫sc,spakrSession习惯简称为spark变量。其中spark是包含sc的，sc是spark历史版本2.0之前常用的创建和操作RDD
Python大数据处理库 PySpark实战-源代码.rar
04-15
在大数据处理领域，PySpark是Python编程语言与Apache Spark相结合的重要工具，它为开发者提供了便捷的方式来操作和分析大规模数据。PySpark是Spark的Python API，它允许Python开发者利用Spark的强大功能，而无需深入...
python大数据开发配套笔记代码
10-18
综上所述，这份"Python大数据开发配套笔记代码"涵盖了Python在大数据处理中的核心知识点，包括数据处理库、分布式计算框架、机器学习工具以及相关辅助库的使用。通过对这些内容的学习和实践，开发者可以提升在Python...
python制作20个炫酷的数据可视化大屏(含源码)
03-30
2. **大数据分析系统**：大数据分析通常涉及Hadoop、Spark等框架，而Python通过PySpark库可以与这些框架无缝集成。数据处理后，Python的可视化库将帮助构建分析结果的可视化界面，比如展示数据分布、关联性或者预测...
毕业设计，基于Python+Spark+Hadoop大数据开发的用户画像电影推荐系统，内含Python完整源代码，数据库脚本
01-24
毕业设计，基于Python+Spark+Hadoop大数据开发的用户画像电影推荐系统，内含Python完整源代码，数据库脚本 Python+Spark+Hadoop大数据基于用户画像电影推荐系统设计 程序开发软件： Pycharm + Python3.7 + Django...
Python库 | brewblox-devcon-spark-0.5.3.dev254.tar.gz
03-01
当我们谈论“brewblox-devcon-spark-0.5.3.dev254.tar.gz”这个压缩包时，我们可以看出它涉及到了几个关键的技术点：Python、Spark、开发语言以及后端和大数据处理。接下来，我们将深入探讨这些关键知识点。 首先，...
【黑马程序员】PySpark学习
double_happiness的博客
03-18 1071
功能：map算子是将RDD的数据一条条处理（处理的逻辑基于map算子中接收的处理函数），返回新的RDD。PySpark的数据计算，都是基于RDD对象来进行的，RDD对象内置丰富的：成员方法（算子）功能：针对KV型RDD，自动按照key分组，然后根据你提供的聚合逻辑，完成数据的聚合操作。功能：对rdd执行map操作，然后进行解除嵌套操作。通过textFile()方法将文件转成RDD对象。
如何使用PySpark开发程序
别人笑我太疯癫，我笑他人看不穿。
09-07 1111
pyspark是spark的python API，本质上其实没有差别，只是开发的语言换了一下，书写的语法不一样而已，所以有Spark的Scala基础的朋友，只需要解决Python语言的书写，其他的就没有问题了 想用pyspark开发需要准备一些东西 1、JAVAJDK 2、Hadoop 3、Spark 4、PyCharm ---开发工具自定义 5、findspark、pyspark、py4j三个pyspark开发用的包 上面的东西前三个我就不演示了，大家在本地准备好并且配置好环境变量就可以了，我这里主要是
笔记：python spark机器学习与hadoop大数据
qq_55643803的博客
01-06 1563
机器学习技术不断进步， 应用相当广泛， 例如推荐引擎、 定向广告、需求预测、垃圾邮件过滤、 医学诊断、 自然语言处理、 搜索引擎、 欺诈检测、 证券分析、 视觉识别、 语音识别、 手写识别等。ApacheSpark是开放源码的集群运算框架，由加州大学伯克利分校的AMPLab开发。Spark是一个弹性的运算框架，适合进行Spark Streaming数据流处理、Spark SQL互动分析、MLlib机器学习等应用，因此Spark可作为一个用途广泛的大数据运算平台。Spark 允许用户将数据。
pyspark模型训练
qq_19072921的博客
03-30 3103
1、pyspark启动 正常情况pyspark shell的启动成功后的界面： [admin@datacenter4 ~]$ pyspark Python 2.7.5 (default, Nov 16 2020, 22:23:17) [GCC 4.8.5 20150623 (Red Hat 4.8.5-44)] on linux2 Type "help", "copyright", "credits" or "license" for more information. Welcome to ...
Pyspark 基础知识
不忘初欣丶的博客
04-05 3353
Pyspark基础知识，包括Pyspark基本介绍，和Spark框架对比，WordCount执行流程，Pyspark执行原理等
pycharm使用服务器pyspark环境
无语梦醒的博客
04-09 2724
一.背景 最近想整理整理pyspark的环境，由于本人是windows本，所以之前都是用winutils解决跨平台问题，最近想着我能不能直接使用服务器上的pyspark环境啊，所以在网上搜索了一番加上测试了一趟，捋了捋流程发出来记一下，mark！ 二.必备 1. 完成SSH免密登录的Linux服务器一台和Windows笔记本一台（理论上只要免密了都适用） 2. Linux服务器本地存在正常可使用的pyspark环境 3. 可能有同学是anaconda环境，这里备注一下，只需要在对应位置的pytho
在windows安装部署spark(python版)
热门推荐
HJXINKKL的博客
02-25 1万+
搭建的环境 安装JavaJdk 安装Spark 安装Python 安装Hadoop 验证搭建的环境： windows10-1607 spark-2.1.0 python-3.5.2 安装Java/Jdk官网下载Java，这里我下的是8u121-windows-x64版本 安装完设置环境变量，添加JAVA_HOME和CLASSPATH 并在Path中添加 %JAVA_HOME%\bin 配
python大数据开发
08-26
Python大数据开发是指使用Python编程语言进行大数据处理和分析的开发工作。Python在数据科学领域非常流行，拥有丰富的库和框架，特别适用于数据分析和机器学习任务。通过这些库和框架，开发人员可以方便地处理大规模的数据集，并进行各种复杂的数据分析和挖掘操作。 要进行Python大数据开发，首先需要搭建Python环境。可以通过安装Python解释器来开始Python的开发工作。安装Python后，就可以使用Python的各种库和框架来进行大数据处理和分析。同时，在学习Python大数据开发时，可以按照基础学习课程的内容进行学习，包括搭建环境、学习基本的语法和数据类型、掌握函数和文件操作等知识。在掌握了Python的基础知识之后，可以进一步学习面向对象编程和深入的大数据处理技术，如使用Python进行数据分析和机器学习等。 总之，Python大数据开发是利用Python编程语言进行大数据处理和分析的工作。它通过Python的丰富库和框架，为开发人员提供了便捷的大数据处理和分析工具，使Python成为最受欢迎的大数据开发语言之一。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *3* [用Python做大数据，都需要学什么？](https://blog.csdn.net/libaiup/article/details/129582414)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* [Python + 大数据 阶段一 Python大数据开发基础 第一章 大数据介绍及开发环境 1-1 大数据介绍](https://blog.csdn.net/weixin_44226181/article/details/130802149)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AIMaynor

觉得有用，要个免费的三连可有？

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值