mr程序运行在本地模式和集群模式的参数设置

本地运行mr配置:


Configuration conf = new Configuration();

conf.set("mapreduce.framework.name", "local");
本地模式运行mr程序时,输入输出的数据可以在本地,也可以在hdfs上
也就是说mapreduce在本地以线程跑的时候,数据可以从本地读取写入,也可从hdfs文件系统上读取写入
到底在哪里,就看下以下两行你用了哪行
//1.数据在hdfs
conf.set("fs.defaultFS", "hdfs://mini1:9000/");
//2.数据在本地
conf.set("fs.defaultFS", "file:///");
Job job = Job.getInstance(conf);


集群运行mr程序:
                //运行集群模式,就是把程序提交到yarn中去运行
//要想在本地运行为集群模式,以下3个参数要指定为集群上的值
//如果在linux下运行,则不用写了
Configuration conf = new Configuration();
conf.set("mapreduce.framework.name", "yarn");
conf.set("yarn.resourcemanager.hostname", "mini1");
//运行集群模式时,数据也必须从hdfs中存取
conf.set("fs.defaultFS", "hdfs://mini1:9000/"); 
Job job = Job.getInstance(conf);
  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值