建立Hadoop与Java交互

本文详细介绍了如何在Windows环境下配置Hadoop,创建Maven项目,并编写Java代码与Hadoop进行交互。首先,讲解了Hadoop的安装与环境变量配置,然后通过IntelliJ IDEA创建Maven工程,并修改pom.xml配置。接着,展示了如何编写Java代码读取HDFS上的文件,并将项目打包成jar文件。最后,指导如何在虚拟机中运行jar包,实现Java与Hadoop的交互。
摘要由CSDN通过智能技术生成

一.创建maven项目

建议与该文章配合阅读https://editor.csdn.net/md/?articleId=108391946

本地Hadoop配置
1.在windows安装hadoop
解压hadoop-2.6.0-cdh5.14.2.tar.gz文件
在这里插入图片描述
2.把hadoop-bin.rar中的内容解压到hadoop的bin目录下
在这里插入图片描述
(注:由于解压缩软件的不同,再解压时可能需要提供管理员权限)

3.把hadoop.dll放到C:\Windows\System32\目录下
在Hadoop的bin目录下找到hadoop.dll文件,将其复制到C盘的:\Windows\System32\目录中
在这里插入图片描述

4.配置hadoop环境变量HADOOP_HOME和PATH变量中加入%HADOOP_HOME%\bin和sbin
1)点击高级系统设置
在这里插入图片描述
2)选择环境变量
在这里插入图片描述
3)选择新建系统变量,添加Hadoop环境变量(注:请注意此处变量值为你安装的hadoop路径,特别注意在安装完成该版本hadoop时会生成内外两层目录,要选择最里层的目录路径)
在这里插入图片描述
4)新建maven环境配置,添加maven环境变量
在这里插入图片描述
5)修改Path配置,在其中分别新建如下变量配置
在这里插入图片描述
6)输入命令行指令mvn-version,出现如下所示结果即maven配置成功
在这里插入图片描述

二.新建mave工程,如图所示

在这里插入图片描述
选择maven,并勾选右侧create from archetype,输入quick,选择
org.jetbrains.idea.maven.model.MavenArchetype@88f75e0f项,点击next
在这里插入图片描述
将GroupId和ArtifactId改为你所需要的名称,并注意location的路径
在这里插入图片描述
点击next,进入下一页面;在图中Maven_home directory 位置,将其更改为你的maven所在路径;更改Using_settings file路径为你的maven目录中conf所在目录下的settings文件目录。点击finish
在这里插入图片描述
出现如下界面即maven工程创建成功
在这里插入图片描述

三.编译java项目

1.将pom.xml配置改为如图所示
在这里插入图片描述
代码如下:

  <properties>
    <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
    
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值