目的:在Idea上直接调试虚拟机中的HDFS,执行MapReduce,不需要将jar包上传到hadoop目录下再运行
配置环境:
虚拟机 hadoop 2.7.1
本地 hadoop 2.7.1
IDEA 版本 2019.3.3
Maven 3.6.3
1. 修改虚拟机hadoop的etc/hadoop/core-site.xml
需要修改为hdfs://IP地址:9000 (主机名也可以,如果使用IP地址建议将IP地址设置为静态IP)
2. 使用xftp 等工具将HADOOP etc/hadoop目录下的core-site.xml和hdfs-site.xml 取出虚拟机备用
3. 在idea新建一个maven项目
等待加载完成出现SUCCESS与src文件夹
创建文件夹
依次点击
创建完成的目录如下:
4. 配置pom.xml文件
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-common</artifactId>
<version>2.7.4</version>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-hdfs</artifactId>
<version>2.7.4</version>
</dependency>
<dependency>