spark-shell基本的RDD操作

spark RDD的常用操作
RDD的操作分为两种,一种是转化操作,一种是执行操作,转化操作并不会立即执行,而是到了执行操作才会被执行
转化操作:

map() 参数是函数,函数应用于RDD每一个元素,返回值是新的RDD
flatMap() 参数是函数,函数应用于RDD每一个元素,将元素数据进行拆分,变成迭代器,返回值是新的RDD
filter() 参数是函数,函数会过滤掉不符合条件的元素,返回值是新的RDD
distinct() 没有参数,将RDD里的元素进行去重操作
union() 参数是RDD,生成包含两个RDD所有元素的新RDD
intersection() 参数是RDD,求出两个RDD的共同元素
subtract() 参数是RDD,将原RDD里和参数RDD里相同的元素去掉
cartesian() 参数是RDD,求两个RDD的笛卡儿积

行动操作:
collect() 返回RDD所有元素
count() RDD里元素个数
countByValue() 各元素在RDD中出现次数
reduce() 并行整合所有RDD数据,例如求和操作
fold(0)(func) 和reduce功能一样,不过fold带有初始值
aggregate(0)(seqOp,combop) 和reduce功能一样,但是返回的RDD数据类型和原RDD不一样
foreach(func) 对RDD每个元素都是使用特定函数

行动操作每次的调用时不会存储前面的计算结果的,若果想要存储前面的操作结果需要把结果加载需要在需要缓存中间结果的RDD调用cache(),cache()方法是把中间结果缓存到内存中,也可以指定缓存到磁盘中(也可以只用persisit())

### 回答1: Spark任务可以通过两种方式进行提交:spark-shellspark-submit。 1. spark-shell:是Spark提供的交互式命令行工具,可以在命令行中直接输入Spark代码进行交互式计算。在spark-shell中提交任务,可以直接在命令行中输入Spark代码,Spark会自动将代码转换为任务并提交到集群中执行。 2. spark-submit:是Spark提供的命令行工具,可以将打包好的Spark应用程序提交到集群中执行。在使用spark-submit提交任务时,需要先将Spark应用程序打包成jar包,然后通过命令行指定jar包路径和其他参数,Spark会自动将jar包提交到集群中执行。 ### 回答2: Apache Spark是一个开源的大数据处理框架,可以用于分布式处理数据、机器学习等等领域。在使用Spark时,我们需要先编写Spark任务,然后将任务提交给Spark集群进行执行,这可以通过两种方式来实现:spark-shellspark-submit。 1. spark-shellspark-shellSpark自带的交互式命令行工具,可以让用户在命令行中直接执行Spark操作。如果您想对数据进行简单的操作或者试验Spark一些功能,那么使用spark-shell是最佳选择。在spark-shell中,用户可以直接输入Spark操作,例如读取文件、转换RDD等等,同时还可以在命令中设置各种参数来定制化Spark操作。 2. spark-submit:spark-submit是Spark任务的常用提交方式,它是一个命令行工具,需要用户编写一个Spark任务包含的代码文件和相应的依赖文件,然后将这些文件打包成jar包,使用spark-submit来将jar包提交给Spark集群执行。使用spark-submit有许多优点,例如可以将任务提交给集群让其在后台执行、可以设置任务的各种参数(例如内存设置、CPU核心数等)以优化任务执行效率。同时,在生产环境下,使用spark-submit也可以通过将任务提交到生产环境的Spark集群来实现自动化部署、管理和监控。 总而言之,使用spark-shellspark-submit的选择取决于您希望达到的目的和需求。对于一些简单的数据处理任务或者试验Spark功能来说,使用spark-shell是比较方便的;而对于一些复杂的数据处理任务或者生产环境下的Spark任务来说,建议使用spark-submit来提交任务。 ### 回答3: Spark作为当前最流行的大数据处理框架之一,它可以通过多种方式来提交Spark任务。其中,最常用的两种方式是通过spark-shellspark-submit提交Spark任务。 1. spark-shell Spark-shell是一个交互式命令行工具,用户可以在其中编写Spark代码,并且即时运行。在使用Spark-shell时,用户不需要将代码打包成JAR文件并将其提交给Spark集群进行执行。 直接在命令行运行spark-shell命令即可进入Spark-shell交互式命令行界面。在Spark-shell中,用户可以与Spark进行交互,包括创建RDD、进行数据转换和操作等。 2. spark-submit Spark-submit是一个命令行工具,它可以将用户编写的Spark代码打包成JAR文件,并且将该JAR文件提交给Spark集群进行执行。用户可以通过spark-submit命令来提交Spark任务。在提交任务时,用户需要指定JAR文件的路径、主类名以及其他执行参数。具体命令格式如下: ``` ./bin/spark-submit --class <main-class> \ --master <master-url> \ --deploy-mode <deploy-mode> \ --conf <key>=<value> \ <application-jar> \ [application-arguments] ``` 其中,参数解释如下: - --class:指定主类名。 - --master:指定Spark集群的URL。 - --deploy-mode:指定任务的部署模式,通常有两种,即client模式和cluster模式。 - --conf:指定Spark配置参数。 - <application-jar>:指定需要提交的JAR文件路径。 - [application-arguments]:指定程序运行时的一些参数。 总的来说,虽然spark-shellspark-submit都可以用于提交Spark任务,但是它们具有不同的优缺点。spark-shell相对于spark-submit来说更加适合小规模的数据处理和代码调试,而对于大规模数据处理任务,则建议使用spark-submit来提交任务,以获得更高的执行效率。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值