前置知识
学习之前,先把hadoop,scala学会,如果不看这2个,直接学spark会报各种错误
hadoop3入门(1)_我是一只代码狗的博客-CSDN博客
注意 不能是springboot,否则报错
入门案例
引入pom.xml
<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <groupId>com.example</groupId> <artifactId>demo-scala</artifactId> <version>0.0.1-SNAPSHOT</version> <name>demo-scala</name> <description>demo-scala</description> <properties> <java.version>1.8</java.version> </properties> <dependencies> <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-core_2.12</artifactId> <version>3.0.0</version> </dependency> </dependencies> <build> <plugins> <!-- 该插件用于将Scala代码编译成class文件 --> <plugin> <groupId>org.scala-tools</groupId> <artifactId>maven-scala-plugin</artifactId> <version>2.15.1</version> <executions> <execution> <id>compile-scala</id> <goals> <goal>add-source</goal> <goal>compile</goal> </goals> </execution> <execution> <id>test-compile-scala</id> <!-- 声明绑定到maven的compile阶段 --> <goals> <goal>add-source</goal> <goal>testCompile</goal> </goals> </execution> </executions> </plugin> <!-- 用于项目的打包插件 --> <plugin> <groupId>org.apache.maven.plugins</groupId> <artifactId>maven-assembly-plugin</artifactId> <configuration> <archive> <manifest> </manifest> </archive> <descriptorRefs> <descriptorRef>jar-with-dependencies</descriptorRef> </descriptorRefs> </configuration> </plugin> </plugins> </build> </project>
创建Test.scala
package com.example.demoscala
import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}
/**
* 单例对象
*/
object Test {
/**
* main 方法名字
* def 定义方法
* args 参数
* Array[String] 参数类型
* Unit 无参,相当于java的void
* @param args
*/
def main(args: Array[String]): Unit = {
//建立和spark的连接
val sparkConf=new SparkConf().
//本地环境
setMaster("local")
.setAppName("应用名称随便命名")
val sc=new SparkContext(sparkConf);
//读取aa文件夹下的所有.txt文件
val lines:RDD[String] = sc.textFile("F:\\aa");
lines.foreach(x => {
println(x + "============================");
})
//将一行数据进行拆分,按照空格拆分,形成一个一个的单词
val words:RDD[String] = lines.flatMap(_.split(" "));
words.foreach(x=>{
println(x+"------------------------------------");
})
//对数据 进行转换 变成 单词,数量
val wordToOne=words.map(x=>(x,1));
wordToOne.foreach(x=>{
println(x+"%%%%%%%%%%%%%%%%%%")
})
//然后把相同的单词合并到一起 然后计算对应的数量
val wordCount:RDD[(String,Int)]=wordToOne.reduceByKey(_+_);
wordCount.foreach(x => {
println(x + "$$$$$$$$$$$$$$$$$")
})
//将转换后的结果打印到控制台中 把聚合结果放入到内存中
val array:Array[(String,Int)]=wordCount.collect();
array.foreach(x=>{
println(x+"&&&&&&&&&&&&&&&");
})
//关闭连接
sc.stop();
}
}
创建单词文件
aa.txt
aa bb cc
dd ee ff
bb.txt
aa cc dd
hh ii jj
kk
计算好的单词信息
去掉打印日志
创建log4j.properties
log4j.rootCategory=ERROR,console log4j.appender.console=org.apache.log4j.ConsoleAppender log4j.appender.console.target=System.err log4j.appender.console.layout=org.apache.log4j.PatternLayout log4j.appender.console.layout.ConversionPattern=%d{yy/MM/ddHH:mm:ss}%p%c{1}:%m%n log4j.logger.org.apache.spark.repl.Main=ERROR log4j.logger.org.spark_project.jetty=ERROR log4j.logger.org.spark_project.jetty.util.component.AbstractLifeCycle=ERROR log4j.logger.org.apache.spark.repl.SparkIMain$exprTyper=ERROR log4j.logger.org.apache.spark.repl.SparkILoop$SparkILoopInterpreter=ERROR log4j.logger.org.apache.parquet=ERROR log4j.logger.parquet=ERRORlog4j.loger.org.apache.hadoop.hive.metastore.RetryingHMSHandler=FATAL log4j.logger.org.apache.hadoop.hive.ql.exec.FunctionRegistry=ERROR
Spark运行环境
Local模式
就是不依赖其他环境就能运行
下载spark-3.0.0-bin-hadoop3.2.tgz,然后上传到服务器
https://download.csdn.net/download/weixin_44704261/13986727
然后上传到下面的目录,然后进行解压
cd /opt/module
tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz
进入下面的目录,然后启动脚本
cd /opt/module/spark-3.0.0-bin-hadoop3.2/bin
./spark-shell
启动之后就会看到下面的scala的一些命令窗口,在这里可以输入对应的命令
然后浏览器输入下面的地址,就可以对你输入的scala的命令进行监控了
退出输入
:quit
我们把代码改造下,把路径换成wenjian,你可以随意命名
然后在下面的目录创建wenjian目录 ,放入对应的txt文件
进入下面的目录,提交应用
cd /opt/module/spark-3.0.0-bin-hadoop3.2
class 就是我们自己代码写的应用程序,全路径
jar包 就是我们自己打包好的代码的jar
bin/spark-submit --class com.example.demoscala.controller.Test /opt/module/jar/demo-scala-0.0.1-SNAPSHOT.jar
独立部署模式,standalone模式,主从模式,集群模式
hadoop102,103,104就是对应你自己的3台机器
hadoop102部署master和worker
hadoop103部署worker
hadoop104部署worker
在3台机器都执行下面的操作
进入下面的目录
cd /opt/module/spark-3.0.0-bin-hadoop3.2/conf
添加work节点
mv slaves.template slaves
vi slaves
hadoop102
hadoop103
hadoop104
添加自己的jdk路径,配置master节点
mv spark-env.sh.template spark-env.sh
vi spark-env.sh
export JAVA_HOME=/opt/module/jdk1.8.0_231
SPARK_MASTER_HOST=hadoop102
SPARK_MASTER_PORT=7077
在其中一台机器上启动集群
cd /opt/module/spark-3.0.0-bin-hadoop3.2
sbin/start-all.sh
把setMaster设置为spark集群地址
提交应用,自己写的Test实体类
cd /opt/module/spark-3.0.0-bin-hadoop3.2
bin/spark-submit --class com.example.demoscala.controller.Test /opt/module/jar/demo-scala-0.0.1-SNAPSHOT.jar
浏览器访问hadoop102:8081,可以看到name就是我们的应用名称
配置历史服务
执行spark-sbmit 之后,hadoop102://4040界面就看不到历史任务的运行情况,所以我们需要配置一下
在hadoop的hdfs创建aa文件夹
进入下面的目录,修改配置
cd /opt/module/spark-3.0.0-bin-hadoop3.2/conf
mv spark-defaults.conf.template spark-defaults.conf
vi spark-defaults.conf
spark.eventLog.enabled true
spark.eventLog.dir hdfs://hadoop102:8020/aa
修改spark-env.sh 配置历史记录访问的端口18080和hdfs的目录,30是保存的应用数,超过这个数,旧的应用就被删除
vi spark-env.sh
export SPARK_HISTORY_OPTS="-Dspark.history.ui.port=18080 -Dspark.history.fs.logDirectory=hdfs://hadoop102:8020/aa -Dspark.history.retainedApplications=30"
然后再另外2台机器上同步修改 spark-defaults.conf和spark-env.sh
在其中一台机器启动集群和历史服务
cd /opt/module/spark-3.0.0-bin-hadoop3.2
./sbin/start-all.sh
./sbin/start-history-server.sh
提交应用
bin/spark-submit --class com.example.demoscala.controller.Test /opt/module/jar/demo-scala-0.0.1-SNAPSHOT.jar
可以看到aa文件夹下就会记录历史的信息
然后访问下面的地址,可以看提交的应用历史信息
配置高可用(HA)
高可用就是当前的master节点只有一个,会存在单点故障的问题,为了解决单点故障,所以需要再集群中配置多个master节点,一旦活动状态的master挂掉,那么由备用的master来提供服务,
这里的高可用采用zookeeper设置
集群规划
hadoop102: master,worker,zookeeper
hadoop103: master,worker,zookeeper
hadoop104: worker,zookeeper
先停止我们的spark集群
cd /opt/module/spark-3.0.0-bin-hadoop3.2/sbin
./stop-all.sh
3台机器上启动zookeeper,前提是你先安装好zookeeper
cd /opt/module/zookeeper/bin/
./zkServer.sh start
查看zookeeper状态
./zkServer.sh status
关闭zookeeper可以使用
./zkServer.sh stop
修改spark-env.sh
cd /opt/module/spark-3.0.0-bin-hadoop3.2/conf
vi spark-env.sh
注释下面的内容
#SPARK_MASTER_HOST=hadoop102
#SPARK_MASTER_PORT=7077
添加下面的内容
Master 监控页面默认访问端口为 8080,但是可能会和 Zookeeper 冲突,所以改成 8989,也可以自定义,访问 UI 监控页面时请注意
SPARK_MASTER_WEBUI_PORT=8989
export SPARK_DAEMON_JAVA_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=hadoop102,hadoop103,hadoop104 -Dspark.deploy.zookeeper.dir=/spark"
然后把spark-env.sh,在另外两台机器上同步修改
scp spark-env.sh root@hadoop103:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/
scp spark-env.sh root@hadoop104:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/
在其中一台机器 启动spark集群
cd /opt/module/spark-3.0.0-bin-hadoop3.2
./sbin/start-all.sh
然后浏览器访问hadoop102:8989
可以看到现在的102是激活的master
然后我们单独启动103的机器上的master
cd /opt/module/spark-3.0.0-bin-hadoop3.2
./sbin/start-master.sh
然后浏览器访问http://hadoop103:8989/
可以看到状态是备用的master
修改代码,然后重新打包
setMaster("spark://hadoop102:7077,hadoop103:7077")
提交应用到集群,注意空格
bin/spark-submit --class com.example.demoscala.controller.Test /opt/module/jar/demo-scala-0.0.1-SNAPSHOT.jar
然后我们把hadoop102的master停掉
然后等待30秒,访问http://hadoop103:8989/
可以看到hadoop103的状态已经变成了活动的master,这样就解决了单点故障
YARN模式
修改hadopop的yarn-site.xml,前提是安装好hadoop集群
cd /opt/module/hadoop-3.3.6/etc/hadoop
vi yarn-site.xml
在配置中追加下面的内容
<!--是否启动一个线程检查每个任务正使用的物理内存量,如果任务超出分配值,则直接将其杀掉,默认是 true -->
<property>
<name>yarn.nodemanager.pmem-check-enabled</name>
<value>false</value>
</property>
<!--是否启动一个线程检查每个任务正使用的虚拟内存量,如果任务超出分配值,则直接将其杀掉,默认是 true -->
<property>
<name>yarn.nodemanager.vmem-check-enabled</name>
<value>false</value>
</property>
然后拷贝到另外两台机器上
scp yarn-site.xml root@hadoop103:/opt/module/hadoop-3.3.6/etc/hadoop/
scp yarn-site.xml root@hadoop104:/opt/module/hadoop-3.3.6/etc/hadoop/
修改 spark-env.sh ,配置hadoop的目录和自己的jdk目录
cd /opt/module/spark-3.0.0-bin-hadoop3.2/conf
vi spark-env.sh
export JAVA_HOME=/opt/module/jdk1.8.0_231
YARN_CONF_DIR=/opt/module/hadoop-3.3.6/etc/hadoop/
然后把spark-env.sh,拷贝到另外2台机器上
scp spark-env.sh root@hadoop103:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/
scp spark-env.sh root@hadoop104:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/
然后在其中一台机器启动hdfs和yarn集群
cd /opt/module/hadoop-3.3.6/sbin
./start-all.sh
回到spark目录
cd /opt/module/spark-3.0.0-bin-hadoop3.2
提交应用
bin/spark-submit --class org.apache.spark.examples.SparkPi --master yarn --deploy-mode cluster ./examples/jars/spark-examples_2.12-3.0.0.jar 10
可以看到计算的任务
配置历史服务
在hadoop的hdfs创建aa文件夹
进入下面的目录,修改配置
cd /opt/module/spark-3.0.0-bin-hadoop3.2/conf
vi spark-defaults.conf
spark.eventLog.enabled true
spark.eventLog.dir hdfs://hadoop102:8020/aa
spark.yarn.historyServer.address=hadoop102:18080
spark.history.ui.port=18080
修改spark-env.sh 配置历史记录访问的端口18080和hdfs的目录,30是保存的应用数,超过这个数,旧的应用就被删除
vi spark-env.sh
export SPARK_HISTORY_OPTS="-Dspark.history.ui.port=18080 -Dspark.history.fs.logDirectory=hdfs://hadoop102:8020/aa -Dspark.history.retainedApplications=30"
然后再另外2台机器上同步修改 spark-defaults.conf和spark-env.sh
scp spark-env.sh root@hadoop103:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/
scp spark-env.sh root@hadoop104:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/
scp spark-defaults.conf root@hadoop103:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/
scp spark-defaults.conf root@hadoop104:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/
在102机器启动历史服务
cd /opt/module/spark-3.0.0-bin-hadoop3.2
./sbin/start-history-server.sh
修改代码设置setMaster("yarn"),然后重新打包上传到服务器
提交应用 这里使用我们自己写的代码
bin/spark-submit --class com.example.demoscala.controller.Test --master yarn --deploy-mode cluster /opt/module/jar/demo-scala-0.0.1-SNAPSHOT.jar
然后会看到有下面的错误
然后再hdfs的user/root中创建wenjjian这个文件夹,然后再重新提交应用
然后上传自己的txt文件
可以看到aa文件夹下就会记录历史的信息
然后浏览器访问http://hadoop102:18080/
可以看到对应的历史信息
找到自己的任务,点进去
就可以看到日志信息了