既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!
由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新
val conf = new SparkConf().setAppName("spark1").setAppName("icy hunter")
val sc = new SparkContext(conf)
sc.textFile(args(0), 4)
.flatMap(_.split(" "))
.map((_, 1))
.reduceByKey(_+_)
.saveAsTextFile(args(1))
sc.stop()
}
}
project structure中如下选项
![在这里插入图片描述](https://img-blog.csdnimg.cn/4b077f7cd32440879ecc5a9bcac08718.png)
进入
![在这里插入图片描述](https://img-blog.csdnimg.cn/dd9137143cf6408990012c146ef4036b.png)
Main Class点击文件夹标志选择
![在这里插入图片描述](https://img-blog.csdnimg.cn/2bb3fa5e633e4857bd7aa6567f4191d9.png)
点击ok
![在这里插入图片描述](https://img-blog.csdnimg.cn/f94c37e4a111405c86ef6d08f0752c4f.png)
点击ok
![在这里插入图片描述](https://img-blog.csdnimg.cn/32f4cda2ad8b497597dd9fcafb8998bd.png)
然后需要进行瘦身,把不需要的包删了,这样打包出来就比较小了。
![在这里插入图片描述](https://img-blog.csdnimg.cn/68db999be777426dba9ded710d5e88a1.png)
点击-号,这些全删了,留最后一个compile output即可。
![在这里插入图片描述](https://img-blog.csdnimg.cn/4c191cf926ad4159a05e73ac6eb33277.png)
然后ok了。
![在这里插入图片描述](https://img-blog.csdnimg.cn/a641f3649151480ebe515c00dd843889.png)
同时点击一下,我们也可以看到打包后存放的路径
接下来开始打包:
![在这里插入图片描述](https://img-blog.csdnimg.cn/2ff19e777b4a4ad3b57f0389fee2fee7.png)
点击build Artifacts
![在这里插入图片描述](https://img-blog.csdnimg.cn/2d1afda292344878b213d2f4bb10463e.png)
跳出这个,点击rebuild即可。
这样就打包完成了。
## 发送到Hadoop运行
![在这里插入图片描述](https://img-blog.csdnimg.cn/08cd1d9cdbee40f4b715ad445f56c869.png)
首先找到jar包位置
打开终端
spark-submit --master yarn --deploy-mode cluster testMainInput.jar “hdfs://192.168.3.215:9000/mydir123/a1.txt” “hdfs://192.168.3.215:9000/mydir123/out3”
其中路径得你自己集群的文件路径才能运行成功。
## 使用脚本运行
创建一个脚本文件
vim show.sh
然后输入:
echo Start spark-submit:
spark-submit --master yarn --deploy-mode cluster /home/bigdata3/IdeaProjects/testMainInput/out/artifacts/testMainInput_jar/testMainInput.jar “hdfs://192.168.3.215:9000/mydir123/a1.txt” “hdfs://192.168.3.215:9000/mydir123/out4”
注意jar包的路径得全路径了。
然后可以
bash show.sh
直接运行
也可以
chmod +x show.sh
给予可执行权限
然后
./show.sh
进行运行
## 参考
上课笔记
![img](https://img-blog.csdnimg.cn/img_convert/e588283891e8251b7d5f0811be167bcc.png)
![img](https://img-blog.csdnimg.cn/img_convert/eb9ce2dd0dee15a899bfcae5d17c209f.png)
**网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**
**[需要这份系统化资料的朋友,可以戳这里获取](https://bbs.csdn.net/forums/4f45ff00ff254613a03fab5e56a57acb)**
**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**
et/forums/4f45ff00ff254613a03fab5e56a57acb)**
**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**