MapReduce两种执行环境的搭建和测试

MR执行环境有两种:本地测试环境,服务器环境

本地测试环境(windows):
    在windows的hadoop目录bin目录有一个winutils.exe
    1、在windows下配置hadoop的环境变量
    2、拷贝debug工具(winutils.ext)到HADOOP_HOME/bin
    3、修改hadoop的源码 ,注意:确保项目的lib需要真实安装的jdk的lib

    4、MR调用的代码需要改变:
        a、src不能有服务器的hadoop配置文件
        b、在调用是使用:
            Configuration config = new  Configuration();
            config.set("fs.defaultFS", "hdfs://node7:8020");
            config.set("yarn.resourcemanager.hostname", "node7");
服务器环境:

首先需要在src下放置服务器上的hadoop配置文件

1、在本地直接调用,执行过程在服务器上(真正企业运行环境)
    a、把MR程序打包(jar),直接放到本地
    b、修改hadoop的源码 ,注意:确保项目的lib需要真实安装的jdk的lib
    c、增加一个属性:
        config.set("mapred.jar", "C:\\Users\\Administrator\\Desktop\\wc.jar");
    d、本地执行main方法,servlet调用MR。


2、直接在服务器上,使用命令的方式调用,执行过程也在服务器上
    a、把MR程序打包(jar),传送到服务器上
    b、通过: hadoop jar jar路径  类的全限定名
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值