hadoop 本机环境开发调试注意事项

本文介绍了如何在Windows环境中进行Hadoop程序的开发和调试,重点在于如何配置本地环境以连接Linux虚拟机上的HDFS,包括设置环境变量、复制winutils.exe以及修改Configuration对象的配置。另外,也提到了通过打包JAR并执行远程HADOOP环境的另一种调试方法。遇到MapReduce任务运行错误时,可能需要确保项目JAR被正确设置为任务依赖。
摘要由CSDN通过智能技术生成

这里的本地开发环境是指,我自己有虚拟机搭建的HADOOP环境,但是我想在windows的环境上开发调试hadoop程序,这里HDFS的文件读取和输出还是放在linux虚拟机上,但是程序是跑在windows上的hadoop环境里的

  1. 运行的代码头部加入
System.setProperty("HADOOP_USER_NAME", "root");

2.windows环境变量里加入本地hadoop的路径HADOOP_HOME,然后把%HADOOP_HOME%\bin 加入系统path

3.把debug工具winutils.exe 复制到HADOOP_HOM\bin里

  1. 再具体代码的Configuration对象里,修改HDFS的主机地址和yarn地址
Configuration config =new Configuration();
        config.set("fs.defaultFS", "hdfs://ubuntu16-node1:8020");
        config.set("yarn.resourcemanager.hostname", "ubuntu16-node1");

下面是部分实例代码

public class RunJob {
   

    public static void 
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值