本地模型运行
1/在windows的eclipse里面直接运行main方法,就会将job提交给本地执行器localjobrunner执行
---输入输出数据可以放在本地路劲下(c:/wc/srcdata)
---输入输出数据还可以放在hdfs中(hdfs://master:9000/wc/srcdata)
2/在linux的eclipse里面直接运行main方法,但是不要添加yarn相关的配置,也会提交给localjobrunner执行
---输入输出数据可以放在本地路径下(c:/wc/srcdata)
---输入输出数据还可以放在hdfs中(hdfs://master:9000/wc/srcdata)
集群模式运行
1/将工程打成jar包,上传到服务器,然后用hadoop命令提交
Hadoop jar wc.jar cn.hadoop.WCRunner
2/在linux的eclipse中直接运行main方法,也可以提交到集群中去运行,但是必采取以下措施:
---在工程src目录下加入mapred-site.xml 和 yarn-site.xml
---将工程打成jar包(wc.jar),同时在main方法中添加一个conf的配置参数
conf.set(“mapreduce.job.jar”,”wc.jar”)
3/在windows 的eclipse中直接运行main运行,也可以提交给集群中运行,但是因为平台不兼容,需要做很多的设置
---要在windows中存放一份hadoop 的安装包(解压好)
---要将其中的lib和bin目录替换成根据你的windows版本从新编译出文件
---再要配置系统环境变量 HADOOP_HOME 和PATH
---修改YarnRunner这个类的源码添加源码到eclipse中