Hadoop 启动 YARN

1,首先进入hadoop目录:cd /usr/local/hadoop

2,修改配置文件  mapred-site.xml ,这边需要先进行重命名:
     mv ./etc/hadoop/mapred-site.xml.template ./etc/hadoop/mapred-site.xml
     然后修改内容:gedit ./etc/hadoop/mapred-site.xml
     <configuration>
        <property>
             <name>mapreduce.framework.name</name>
             <value>yarn</value>
        </property>
     </configuration>

3, 接着修改配置文件  yarn-site.xml:
     <configuration>
        <property>
             <name>yarn.nodemanager.aux-services</name>
             <value>mapreduce_shuffle</value>
         </property>
     </configuration>

4,启动yarn(需要先执行过./sbin/start-dfs.sh)
     ./sbin/start-yarn.sh      # 启动YARN
     ./sbin/mr-jobhistory-daemon.sh start historyserver  # 开启历史服务器,才能在Web中查看任务运行情况

5, 启动 YARN 之后,运行实例的方法还是一样的,仅仅是资源管理方式、任务调度不同。观察日志信息可以发现,不启用 YARN 时,是 “mapred.LocalJobRunner” 在跑任务,启用 YARN 之后,是 “mapred.YARNRunner” 在跑任务。启动 YARN 有个好处是可以通过 Web 界面查看任务的运行情况: http://localhost:8088/cluster


6, 不启动 YARN 需重命名 mapred-site.xml
如果不想启动 YARN,务必把配置文件  mapred-site.xml 重命名,改成 mapred-site.xml.template,需要用时改回来就行。否则在该配置文件存在,而未开启 YARN 的情况下,运行程序会提示 “Retrying connect to server: 0.0.0.0/0.0.0.0:8032” 的错误,这也是为何该配置文件初始文件名为 mapred-site.xml.template。

7,关闭yarn脚本如下:
     ./sbin/stop-yarn.sh
     ./sbin/mr-jobhistory-daemon.sh stop historyserver
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值