Spark源码学习之IDEA源码阅读环境搭建，面试官都被搞懵了

（1）Java 1.8

（2）Scala 2.11.12（需要在IDEA中安装）

（3）Maven 3.8.2（需要在IDEA中配置）

（4）Git 2.33

以上软件需要安装好，并进行环境配置。

（5）spark 2.4.3 源码（官网可下载）

编译源码

---

（1）修改MAVEN_OPTS，增加Maven编译时内存的大小：

在Maven安装目录下找到bin/mvn.cmd文件，打开在文件中添加

MAVEN_OPTS=“-Xmx2g -XX:MetaspaceSize=2G -XX:ReservedCodeCacheSize=2G”

（2）运行Git中的git-bash.exe，然后在相应的spark目录下直接执行如下命令，进行源码编译：（耗时较长）

$ > mvn -Pyarn -Phadoop-2.7 -Pspark-ganglia-lgpl -Pkinesis-asl -Phive -DskipTests clean package

源码编译的结果如下：

搭建IDEA阅读环境

---

（1）在IDEA界面直接open刚刚编译的源码文件

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Java工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Java开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024b （备注Java）

总结

我们总是喜欢瞻仰大厂的大神们，但实际上大神也不过凡人，与菜鸟程序员相比，也就多花了几分心思，如果你再不努力，差距也只会越来越大。

面试题多多少少对于你接下来所要做的事肯定有点帮助，但我更希望你能透过面试题去总结自己的不足，以提高自己核心技术竞争力。每一次面试经历都是对你技术的扫盲，面试后的复盘总结效果是极好的！

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**
[外链图片转存中…(img-lovRcp7B-1712760587649)]