1.spark学习(本地模式安装)

1.spark环境搭建

1.1准备工作

1.JDK（linux安装）
2.ScalaSDK 本机安装wins上安装
3.Spark安装包
spark官网下载地址（官网下载地址）
传送门：阿里云下载
这是我下载好的spark-3.0.0-preview2-bin-hadoop2.7.tgz

1.2原理

1.3操作

1.把文件上传到到服务器上spark-3.0.0-preview2-bin-hadoop2.7.tgb
2.解压tar -zxvf spark-3.0.0-preview2-bin-hadoop2.7.tgb

2.更改权限，如果你不是用的root上传的 需要更改权限

chown -R root /opt/spark-3.0.0-preview2-bin-hadoop2.7
-3.0.0-preview2-bin-hadoop2.7

看下这里权限显示root

名字太长了把名字改成spark
这些是目录下面的一些详解

1.4 测试

1.启动spark
/spark/bin/spark-shell

这个是没有java 环境配置jdk
安装jdk

yum -y list java*
yum install -y java-1.8.0-openjdk-devel.x86_64
java -version

然后继续运行

/spark/bin/spark-shell

2.访问里面的那个4040端口的那个

http://192.168.10.51:4040
如果发现访问不到可能是防火墙开着的我们把防火墙给关掉

启动防火墙
systemctl start firewalld
关闭防火墙
systemctl stop firewalld
查看防火墙状态
systemctl status firewalld

部署完成
3.执行运行案例去官网里面拿一个案例，把路径换掉
https://spark.apache.org/examples.html

val textFile = sc.textFile("file:///root/words.txt")
val counts = textFile.flatMap(_.split(" ")).map((_, 1)).reduceByKey(_ + _)
counts.collect

回到我们刚刚那个网站刷新可以看到任务的流程图