hadoop组件---spark理论----spark on k8s模式的三种方式全面了解

本文介绍了Spark运行在Kubernetes(K8s)上的优势,如技术栈统一、资源池整合,以及Spark与K8s结合的三种方式:1) Spark Standalone on k8s,2) Spark使用k8s原生调度,3) SparkOperator。SparkOperator通过Kubernetes Operator实现Spark应用的声明式管理,提供更优的资源管理和故障处理能力。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

我们在之前的文章中 已经了解了 spark支持的模式,其中一种就是 使用k8s进行管理。

hadoop组件—spark----全面了解spark以及与hadoop的区别

是时候考虑让你的 Spark 跑在K8s 上了

spark on k8s的优势–为什么要把Spark部署在k8s上

大数据和云计算一直分属两个不同的领域。大数据主要关注怎么将数据集中起来,挖掘数据的价值;云计算主要关注怎么更高效地使用资源,提升资源的利用效率。当大数据发展到一定阶段的时候,它就会和云计算不期而遇。

两者的结合有以下优势:

1、技术栈的统一,降低运维成本

一般来说 每个公司 大数据的平台 和 云计算平台都是 不可缺少的。

也就意味着我们有两套体系的集群
一套是Hadoop+spark 或者 是商用的EMR。
一套是k8s,用于部署微服务和常规分析流程等应用。

两套集

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

阿泽财商会

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值