spark入门(1)

前置知识

学习之前,先把hadoop,scala学会,如果不看这2个,直接学spark会报各种错误

hadoop3入门(1)_我是一只代码狗的博客-CSDN博客

scala2.12入门_我是一只代码狗的博客-CSDN博客

注意 不能是springboot,否则报错

入门案例

引入pom.xml

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>com.example</groupId>
    <artifactId>demo-scala</artifactId>
    <version>0.0.1-SNAPSHOT</version>
    <name>demo-scala</name>
    <description>demo-scala</description>
    <properties>
        <java.version>1.8</java.version>
    </properties>
    <dependencies>


        <dependency>
            <groupId>org.apache.spark</groupId>
            <artifactId>spark-core_2.12</artifactId>
            <version>3.0.0</version>
        </dependency>


    </dependencies>

    <build>
        <plugins>

                    <!-- 该插件用于将Scala代码编译成class文件 -->
                    <plugin>
                        <groupId>org.scala-tools</groupId>
                        <artifactId>maven-scala-plugin</artifactId>
                        <version>2.15.1</version>
                        <executions>
                            <execution>
                                <id>compile-scala</id>
                                <goals>
                                    <goal>add-source</goal>
                                    <goal>compile</goal>
                                </goals>
                            </execution>
                            <execution>
                                <id>test-compile-scala</id>
                                <!-- 声明绑定到maven的compile阶段 -->
                                <goals>
                                    <goal>add-source</goal>
                                    <goal>testCompile</goal>
                                </goals>
                            </execution>
                        </executions>
                    </plugin>

                    <!-- 用于项目的打包插件 -->
                    <plugin>
                        <groupId>org.apache.maven.plugins</groupId>
                        <artifactId>maven-assembly-plugin</artifactId>
                        <configuration>
                            <archive>
                                <manifest>
                                </manifest>
                            </archive>
                            <descriptorRefs>
                                <descriptorRef>jar-with-dependencies</descriptorRef>
                            </descriptorRefs>
                        </configuration>
                    </plugin>


        </plugins>
    </build>



</project>

创建Test.scala

package com.example.demoscala

import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}

/**
 * 单例对象
 */
object Test {

  /**
   * main 方法名字
   * def 定义方法
   * args 参数
   * Array[String] 参数类型
   * Unit 无参,相当于java的void
   * @param args
   */
  def main(args: Array[String]): Unit = {
    //建立和spark的连接
    val sparkConf=new SparkConf().
      //本地环境
      setMaster("local")
      .setAppName("应用名称随便命名")
    val sc=new SparkContext(sparkConf);
    //读取aa文件夹下的所有.txt文件
    val lines:RDD[String] = sc.textFile("F:\\aa");
    lines.foreach(x => {
      println(x + "============================");
    })
    //将一行数据进行拆分,按照空格拆分,形成一个一个的单词
    val words:RDD[String] = lines.flatMap(_.split(" "));
    words.foreach(x=>{
      println(x+"------------------------------------");
    })
    //对数据 进行转换 变成 单词,数量
    val wordToOne=words.map(x=>(x,1));
    wordToOne.foreach(x=>{
      println(x+"%%%%%%%%%%%%%%%%%%")
    })
    //然后把相同的单词合并到一起 然后计算对应的数量
    val wordCount:RDD[(String,Int)]=wordToOne.reduceByKey(_+_);
    wordCount.foreach(x => {
      println(x + "$$$$$$$$$$$$$$$$$")
    })

    //将转换后的结果打印到控制台中 把聚合结果放入到内存中
    val array:Array[(String,Int)]=wordCount.collect();
    array.foreach(x=>{
      println(x+"&&&&&&&&&&&&&&&");
    })

    //关闭连接
    sc.stop();
  }
}

创建单词文件 

aa.txt

aa bb cc
dd ee ff

 bb.txt

aa cc dd
hh ii jj
kk

计算好的单词信息 

去掉打印日志

创建log4j.properties

log4j.rootCategory=ERROR,console
log4j.appender.console=org.apache.log4j.ConsoleAppender
log4j.appender.console.target=System.err
log4j.appender.console.layout=org.apache.log4j.PatternLayout
log4j.appender.console.layout.ConversionPattern=%d{yy/MM/ddHH:mm:ss}%p%c{1}:%m%n

log4j.logger.org.apache.spark.repl.Main=ERROR

log4j.logger.org.spark_project.jetty=ERROR
log4j.logger.org.spark_project.jetty.util.component.AbstractLifeCycle=ERROR
log4j.logger.org.apache.spark.repl.SparkIMain$exprTyper=ERROR
log4j.logger.org.apache.spark.repl.SparkILoop$SparkILoopInterpreter=ERROR
log4j.logger.org.apache.parquet=ERROR
log4j.logger.parquet=ERRORlog4j.loger.org.apache.hadoop.hive.metastore.RetryingHMSHandler=FATAL
log4j.logger.org.apache.hadoop.hive.ql.exec.FunctionRegistry=ERROR

Spark运行环境 

Local模式

就是不依赖其他环境就能运行

下载spark-3.0.0-bin-hadoop3.2.tgz,然后上传到服务器

https://download.csdn.net/download/weixin_44704261/13986727

然后上传到下面的目录,然后进行解压

cd /opt/module

tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz

 进入下面的目录,然后启动脚本

cd /opt/module/spark-3.0.0-bin-hadoop3.2/bin

./spark-shell

启动之后就会看到下面的scala的一些命令窗口,在这里可以输入对应的命令

然后浏览器输入下面的地址,就可以对你输入的scala的命令进行监控了

http://服务器ip:4040/

退出输入

:quit

我们把代码改造下,把路径换成wenjian,你可以随意命名

然后在下面的目录创建wenjian目录 ,放入对应的txt文件

进入下面的目录,提交应用

cd /opt/module/spark-3.0.0-bin-hadoop3.2

class 就是我们自己代码写的应用程序,全路径

jar包 就是我们自己打包好的代码的jar

bin/spark-submit --class com.example.demoscala.controller.Test  /opt/module/jar/demo-scala-0.0.1-SNAPSHOT.jar

 

独立部署模式,standalone模式,主从模式,集群模式 

hadoop102,103,104就是对应你自己的3台机器 

hadoop102部署master和worker
hadoop103部署worker
hadoop104部署worker

在3台机器都执行下面的操作

进入下面的目录

cd /opt/module/spark-3.0.0-bin-hadoop3.2/conf

添加work节点

mv slaves.template slaves
vi slaves

hadoop102
hadoop103
hadoop104

添加自己的jdk路径,配置master节点 

mv spark-env.sh.template spark-env.sh

vi spark-env.sh

export JAVA_HOME=/opt/module/jdk1.8.0_231
SPARK_MASTER_HOST=hadoop102
SPARK_MASTER_PORT=7077 

在其中一台机器上启动集群

cd /opt/module/spark-3.0.0-bin-hadoop3.2
sbin/start-all.sh 

把setMaster设置为spark集群地址

提交应用,自己写的Test实体类

cd /opt/module/spark-3.0.0-bin-hadoop3.2

bin/spark-submit --class com.example.demoscala.controller.Test  /opt/module/jar/demo-scala-0.0.1-SNAPSHOT.jar

浏览器访问hadoop102:8081,可以看到name就是我们的应用名称

配置历史服务

执行spark-sbmit 之后,hadoop102://4040界面就看不到历史任务的运行情况,所以我们需要配置一下

 在hadoop的hdfs创建aa文件夹

http://hadoop102:9870/

 进入下面的目录,修改配置

cd /opt/module/spark-3.0.0-bin-hadoop3.2/conf
mv spark-defaults.conf.template spark-defaults.conf
vi spark-defaults.conf

spark.eventLog.enabled true
spark.eventLog.dir hdfs://hadoop102:8020/aa 

修改spark-env.sh 配置历史记录访问的端口18080和hdfs的目录,30是保存的应用数,超过这个数,旧的应用就被删除

vi spark-env.sh 

export SPARK_HISTORY_OPTS="-Dspark.history.ui.port=18080 -Dspark.history.fs.logDirectory=hdfs://hadoop102:8020/aa -Dspark.history.retainedApplications=30" 

然后再另外2台机器上同步修改 spark-defaults.conf和spark-env.sh 

在其中一台机器启动集群和历史服务

cd /opt/module/spark-3.0.0-bin-hadoop3.2

./sbin/start-all.sh

./sbin/start-history-server.sh

提交应用

bin/spark-submit --class com.example.demoscala.controller.Test  /opt/module/jar/demo-scala-0.0.1-SNAPSHOT.jar

可以看到aa文件夹下就会记录历史的信息

 然后访问下面的地址,可以看提交的应用历史信息

http://hadoop102:18080/

配置高可用(HA) 

高可用就是当前的master节点只有一个,会存在单点故障的问题,为了解决单点故障,所以需要再集群中配置多个master节点,一旦活动状态的master挂掉,那么由备用的master来提供服务,
这里的高可用采用zookeeper设置

集群规划

hadoop102: master,worker,zookeeper
hadoop103: master,worker,zookeeper
hadoop104: worker,zookeeper

先停止我们的spark集群 

cd /opt/module/spark-3.0.0-bin-hadoop3.2/sbin

./stop-all.sh

 3台机器上启动zookeeper,前提是你先安装好zookeeper

cd /opt/module/zookeeper/bin/
 ./zkServer.sh start​​​​​​​

查看zookeeper状态 

 ./zkServer.sh status

关闭zookeeper可以使用 

./zkServer.sh stop

修改spark-env.sh

cd /opt/module/spark-3.0.0-bin-hadoop3.2/conf

vi spark-env.sh

注释下面的内容
#SPARK_MASTER_HOST=hadoop102
#SPARK_MASTER_PORT=7077

添加下面的内容
Master 监控页面默认访问端口为 8080,但是可能会和 Zookeeper 冲突,所以改成 8989,也可以自定义,访问 UI 监控页面时请注意

SPARK_MASTER_WEBUI_PORT=8989
export SPARK_DAEMON_JAVA_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=hadoop102,hadoop103,hadoop104 -Dspark.deploy.zookeeper.dir=/spark"

 然后把spark-env.sh,在另外两台机器上同步修改

scp spark-env.sh root@hadoop103:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/

scp spark-env.sh root@hadoop104:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/

在其中一台机器 启动spark集群

cd /opt/module/spark-3.0.0-bin-hadoop3.2

./sbin/start-all.sh

然后浏览器访问hadoop102:8989

可以看到现在的102是激活的master

然后我们单独启动103的机器上的master

cd /opt/module/spark-3.0.0-bin-hadoop3.2

./sbin/start-master.sh

然后浏览器访问http://hadoop103:8989/

可以看到状态是备用的master 

修改代码,然后重新打包

setMaster("spark://hadoop102:7077,hadoop103:7077")

提交应用到集群,注意空格

​​​​​​​bin/spark-submit --class com.example.demoscala.controller.Test /opt/module/jar/demo-scala-0.0.1-SNAPSHOT.jar

然后我们把hadoop102的master停掉 

然后等待30秒,访问http://hadoop103:8989/

可以看到hadoop103的状态已经变成了活动的master,这样就解决了单点故障

YARN模式 

修改hadopop的yarn-site.xml,前提是安装好hadoop集群

cd /opt/module/hadoop-3.3.6/etc/hadoop

vi yarn-site.xml

在配置中追加下面的内容

<!--是否启动一个线程检查每个任务正使用的物理内存量,如果任务超出分配值,则直接将其杀掉,默认是 true -->
<property>
 <name>yarn.nodemanager.pmem-check-enabled</name>
 <value>false</value>
</property>
<!--是否启动一个线程检查每个任务正使用的虚拟内存量,如果任务超出分配值,则直接将其杀掉,默认是 true -->
<property>
 <name>yarn.nodemanager.vmem-check-enabled</name>
 <value>false</value>
</property>
 

然后拷贝到另外两台机器上

scp yarn-site.xml root@hadoop103:/opt/module/hadoop-3.3.6/etc/hadoop/

scp yarn-site.xml root@hadoop104:/opt/module/hadoop-3.3.6/etc/hadoop/ 

修改 spark-env.sh ,配置hadoop的目录和自己的jdk目录

cd /opt/module/spark-3.0.0-bin-hadoop3.2/conf

vi spark-env.sh 

export JAVA_HOME=/opt/module/jdk1.8.0_231
YARN_CONF_DIR=/opt/module/hadoop-3.3.6/etc/hadoop/ 

然后把spark-env.sh,拷贝到另外2台机器上

scp spark-env.sh root@hadoop103:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/

scp spark-env.sh root@hadoop104:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/ 

 然后在其中一台机器启动hdfs和yarn集群

cd /opt/module/hadoop-3.3.6/sbin

./start-all.sh

回到spark目录

cd /opt/module/spark-3.0.0-bin-hadoop3.2

提交应用 

bin/spark-submit --class org.apache.spark.examples.SparkPi --master yarn --deploy-mode cluster ./examples/jars/spark-examples_2.12-3.0.0.jar 10

浏览器访问http://hadoop102:8088/

可以看到计算的任务 

配置历史服务

 在hadoop的hdfs创建aa文件夹

http://hadoop102:9870/

 进入下面的目录,修改配置

cd /opt/module/spark-3.0.0-bin-hadoop3.2/conf
vi spark-defaults.conf

spark.eventLog.enabled           true
spark.eventLog.dir               hdfs://hadoop102:8020/aa
spark.yarn.historyServer.address=hadoop102:18080
spark.history.ui.port=18080

修改spark-env.sh 配置历史记录访问的端口18080和hdfs的目录,30是保存的应用数,超过这个数,旧的应用就被删除

vi spark-env.sh 

export SPARK_HISTORY_OPTS="-Dspark.history.ui.port=18080 -Dspark.history.fs.logDirectory=hdfs://hadoop102:8020/aa -Dspark.history.retainedApplications=30" 

然后再另外2台机器上同步修改 spark-defaults.conf和spark-env.sh 

scp spark-env.sh root@hadoop103:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/

scp spark-env.sh root@hadoop104:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/

scp spark-defaults.conf root@hadoop103:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/

​​​​​​​scp spark-defaults.conf root@hadoop104:/opt/module/spark-3.0.0-bin-hadoop3.2/conf/

在102机器启动历史服务

cd /opt/module/spark-3.0.0-bin-hadoop3.2

./sbin/start-history-server.sh

修改代码设置setMaster("yarn"),然后重新打包上传到服务器​​​​​​​

​​​​​​​

提交应用 这里使用我们自己写的代码 

bin/spark-submit --class com.example.demoscala.controller.Test --master yarn --deploy-mode cluster /opt/module/jar/demo-scala-0.0.1-SNAPSHOT.jar 

然后会看到有下面的错误

然后再hdfs的user/root中创建wenjjian这个文件夹,然后再重新提交应用

然后上传自己的txt文件

可以看到aa文件夹下就会记录历史的信息

然后浏览器访问http://hadoop102:18080/

可以看到对应的历史信息 

然后访问http://hadoop102:8088/ 

找到自己的任务,点进去

 就可以看到日志信息了

spark入门(2)_我是一只代码狗的博客-CSDN博客 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值