使用 IntelliJ IDEA 导入 Spark 最新源码及编译 Spark 源代码（博主强烈推荐）

前言

　   其实啊，无论你是初学者还是具备了有一定spark编程经验，都需要对spark源码足够重视起来。

　　本人，肺腑之己见，想要成为大数据的大牛和顶尖专家，多结合源码和操练编程。

　

 

 

 

准备工作

　1、scala 2.10.4(本地的安装)

         Scala的安装（本地）

　　2、Jdk1.7+  或 jdk1.8+ (本地的安装)

         Jdk 1.7*安装并配置

         Jdk 1.8*安装并配置

         JDK的windows和Linux版本之下载

　　3、IntelliJ IDEA

IntelliJ IDEA（Community版本）的下载、安装和WordCount的初步使用（本地模式和集群模式）

IntelliJ IDEA（Ultimate版本）的下载、安装和WordCount的初步使用（本地模式和集群模式）

 

         Spark源码的编译过程详细解读(各版本)

          另外，最后还是建议大家开始先使用 pre-built 的 Spark，对 Spark 的运行、使用方法有所了解，编写了一些 Spark 应用程序后再展开源代码的阅读，并尝试修改源码，进行手动编译。 

 

 

 

 

总体流程

　　1、从 Github 导入 Spark 工程

      打开IntelliJ IDEA 后，在菜单栏中选择 VCS→Check out from Version Control→Git，之后在 Git Repository URL 中填入 Spark 项目的地址，并指定好本地路径，如下图所示。

 

https://github.com/apache/spark.git   

 

 

 

 或者，我们可以直接先下载好，

比如我这里，已经下载好了

解压，

提前，先准备好

 

 

 

对于spark源码的目录结构

　　1、编译相关    : sbt 、assembly、project

　　2、spark核心  ：core

　　3、Spark Lib  ： streaming 、 sql 、graphx 、mllib

　　4、运行脚本和配置 ： bin  、sbin 、conf

　　5、虚拟化 : ec2 、docker 、dev

　　6、式例  ： examples 、data

　　7、部署相关： yarn

　　8、python支持 ： python

　　9、repl ： repl

　　10、 3pp : externals

 

 

 

 

 

 

 

 

 

现在，我开始，进入spark源码导入工作。

先来关闭，已有的工程。

 

File   ->   Close Project

 

得到，如下

 

选择，Import Project

 

 

 这里，为了日后的spark源码阅读环境的方便和开发

安装之后的几个常用设置：

　　1、界面字体大小的设置

 

可见，界面字体的效果

 

 

 

　　2、代码字体的设置

 

 

 

 

3、因我们平常，用习惯了eclipse，快捷键，设置为我们平常，eclipse的风格。

完成

 

 

 

简单，带领，如何巧看spark源码？

 这里，为了避免一个不利的阅读，

放到D盘的根目录下，

 设置行号

 

 

 

 

 

其他的源码，首先，Ctrl + Shift + R，然后，自行去阅读。

建议，在理解概念，真的，可以拿源码来帮助理解！

 

 

 

 

总结

 所以啊，源码 + 官网 ，是黄金组合。

 

本文转自大数据躺过的坑博客园博客，原文链接：http://www.cnblogs.com/zlslch/p/5881893.html，如需转载请自行联系原作者