ETL学习-IDEA配置(java、maven)、IDEA连接(Hadoop、yarn、Spark)

一、准备:项目前期已配置好环境及必需软件

        项目前期的准备工作可参照:ETL学习-软件安装(Tomcat、Nginx、Hadoop、Zookeeper)        自启动管理:ETL学习-软件自启动管理(nginx、tomcat、zookeeper、root用户免密连接)

二、IDEA配置java环境

        使用IntelliJ IDEA 配置JDK(入门)

三、IDEA配置Maven环境

        使用IntelliJ IDEA 配置Maven(入门)

四、Spark集群搭建

        Hadoop集群+Spark集群搭建(一篇文章就够了)Spark-3.1.1单机安装教程

 五、IDEA中Big Data Tools插件连接Hadoop、yarn和Spark

        Big Data Tools完整攻略,一键连接Hadoop(包含连接yarn和Spark),其中修改yarn默认端口

六、Java提交作业到Hadoop集群

        大数据 - Java实现提交作业到Hadoop集群

七、Tips

        可在系统中新建文件存储各个软件端口号和路径

八、大数据学习笔记

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值