扫码下载「CSDN程序员学院APP」,1000+技术好课免费看
APP订阅课程,领取优惠,最少立减5元 ↓↓↓
订阅后:请点击此处观看视频课程
视频教程-Spark内核机制解析及性能调优教程(含资料)-Spark
学习有效期:永久观看
学习时长:475分钟
学习计划:8天
难度:高
「口碑讲师带队学习,让你的问题不过夜」
讲师姓名:张长志
CTO/CIO/技术副总裁/总工程师
讲师介绍:张长志技术全才、擅长领域:区块链、大数据、Java等。10余年软件研发及企业培训经验,曾为多家大型企业提供企业内训如中石化,中国联通,中国移动等知名企业。拥有丰富的企业应用软件开发经验、深厚的软件架构设计理论基础及实践能力。项目开发历程:基于大数据技术推荐系统 ,医疗保险大数据分析与统计推断,H5跨平台APP,携程酒店APP,Go语言实现Storm和ZK类似框架。
☛点击立即跟老师学习☚
「你将学到什么?」
由于Spark基于内存计算的特性,集群的任何资源都可以成为Spark程序的瓶颈:CPU,网络带宽,或者内存。通常,如果内存容得下数据,瓶颈会是网络带宽。不过有时你同样需要做些优化,例如将RDD以序列化到磁盘,来降低内存占用。
本教程通过源码引导读者深入理解Spark的集群部署的内部机制、Spark内部调度的机制、Executor的内部机制、Shuffle的内部机制,进而讲述Tungsten的内部机制,让学员知其然知其所以然。教程的后部分,是任何Spark应用者都很好关注的Spark性能调优的内容。
「课程学习目录」
1.01 - Spark源码 - Spark应用提交 |
2.02 - Spark源码 - 客户端提交应用 |
3.03 - 启动ExecutorBackend |
4.04 - Spark源码 - 反向注册 |
5.05 - Spark内核 - 部署流程 |
6.06 - Spark内核 - 通信架构介绍 |
7.07 - Spark内核 - RPC介绍 |
8.08 - Spark内核 - 任务划分 |
9.09 - Spark内核 - 任务调度执行 |
10.10 - Spark内核 - 任务调度执行 - 补充 |
11.11 - Spark内核 - Shuffle原理 |
12.12 - Spark内核 - 内存原理 |
13.13 - Spark内核 - 核心组件 |
14.14 - Spark调优 - 常规性能调优 |
15.15 - Spark调优 - 算子调优 |
16.16 - Spark调优 - 算子调优-1 |
17.17 - Spark调优 - shuffle调优 |
18.18 - Spark调优 - JVM调优 |
19.19 - Spark调优 - 数据倾斜 |
20.20 - Spark调优 - 故障解决 |
21.21 - Spark调优 - 故障解决-1 |
「7项超值权益,保障学习质量」
- 大咖讲解
技术专家系统讲解传授编程思路与实战。
- 答疑服务
专属社群随时沟通与讲师答疑,扫清学习障碍,自学编程不再难。
- 课程资料+课件
超实用资料,覆盖核心知识,关键编程技能,方便练习巩固。(部分讲师考虑到版权问题,暂未上传附件,敬请谅解)
- 常用开发实战
企业常见开发实战案例,带你掌握Python在工作中的不同运用场景。
- 大牛技术大会视频
2019Python开发者大会视频免费观看,送你一个近距离感受互联网大佬的机会。
- APP+PC随时随地学习
满足不同场景,开发编程语言系统学习需求,不受空间、地域限制。
「什么样的技术人适合学习?」
- 想进入互联网技术行业,但是面对多门编程语言不知如何选择,0基础的你
- 掌握开发、编程技术单一、冷门,迫切希望能够转型的你
- 想进入大厂,但是编程经验不够丰富,没有竞争力,程序员找工作难。
「悉心打造精品好课,8天学到大牛3年项目经验」
【完善的技术体系】
技术成长循序渐进,帮助用户轻松掌握
掌握Spark知识,扎实编码能力
【清晰的课程脉络】
浓缩大牛多年经验,全方位构建出系统化的技术知识脉络,同时注重实战操作。
【仿佛在大厂实习般的课程设计】
课程内容全面提升技术能力,系统学习大厂技术方法论,可复用在日后工作中。
「你可以收获什么?」
1.理解Spark的集群部署的内部机制、Spark内部调度的机制、Executor的内部机制、Shuffle的内部机制
2.掌握Spark的调优技能迈向高级大数据开发