Spark源码安装与部署

编译步骤

安装JDK
安装maven （需要修改maven默认存储位置）
安装scala
定位到spark源码
mvn -Pyarn -Phadoop-2.6 -Dhadoop.version=2.6.0-cdh5.7.0 -Phive -Phive-thriftserver -DskipTests clean package

或者
./dev/change-scala-version.sh 2.11

./dev/make-distribution.sh
–name 2.6.0-cdh5.7.0
–tgz
-Pyarn
-Dscala-2.11
-Phadoop-2.6
-Dhadoop.version=2.6.0-cdh5.7.0
-Phive -Phive-thriftserver

编译前，需要加入仓库（在spark目录下的pom.xml里面添加）：

cloudera cloudera Repository https://repository.cloudera.com/artifactory/cloudera-repos/

加快编译速度的方法（修改/dev/make-distribution.sh）

VERSION=$("$MVN" help:evaluate -Dexpression=project.version $@ 2>/dev/null\
    | grep -v "INFO"\
    | grep -v "WARNING"\
    | tail -n 1)
SCALA_VERSION=$("$MVN" help:evaluate -Dexpression=scala.binary.version $@ 2>/dev/null\
    | grep -v "INFO"\
    | grep -v "WARNING"\
    | tail -n 1)
SPARK_HADOOP_VERSION=$("$MVN" help:evaluate -Dexpression=hadoop.version $@ 2>/dev/null\
    | grep -v "INFO"\
    | grep -v "WARNING"\
    | tail -n 1)
SPARK_HIVE=$("$MVN" help:evaluate -Dexpression=project.activeProfiles -pl sql/hive $@ 2>/dev/null\
    | grep -v "INFO"\
    | grep -v "WARNING"\
    | fgrep --count "<id>hive</id>";\
    # Reset exit status to 0, otherwise the script stops here if the last grep finds nothing\
    # because we use "set -o pipefail"
    echo -n)

改为

VERSION=2.2
SCALA_VERSION=2.11
SPARK_HADOOP_VERSION=2.6.0-cdh5.7.0
SPARK_HIVE=1

Spark安装目录的结构

• bin 存放客户端相关的脚本
• conf 存放配置文件
• data 存放测试数据
• example 存放spark自带的测试用例 (重点查看)
• jars 存放spark对应的jar包
• sbin 存放服务端相关的脚本：启停集群
• yarn 存放yarn相关的jar