运行程序出错
打开日志发现
1.跳转到hadoop-3.1.3\etc\hadoop 目录下,执行:
vim mapred-site.xml
添加以下内容
<property>
<name>mapreduce.map.memory.mb</name>
<value>1024</value>
</property>
<property>
<name>mapreduce.map.java.opts</name>
<value>-Xmx64m</value>
</property>
<property>
<name>mapreduce.reduce.memory.mb</name>
<value>1024</value>
</property>
<property>
<name>mapreduce.reduce.java.opts</name>
<value>-Xmx64m</value>
</property>
<property>
<name>mapreduce.task.io.sort.mb</name>
<value>4</value>
</property>
其中,mapreduce.map.memory.mb属性用于设置每个Map任务容器申请的内存大小,其默认值为1G。
mapreduce.map.java.opts属性用于设置Map任务的Java虚拟机选项。
同样地,mapreduce.reduce.memory.mb属性用于设置每个Reduce任务容器申请的内存大小,其默认值也为1G。
mapreduce.reduce.java.opts属性用于设置Reduce任务的Java虚拟机选项,并且一般设置为mapreduce.map.memory.mb的85%左右。
最后,mapreduce.task.io.sort.mb属性用于设置任务的I/O排序缓冲区大小,其默认值为4。
2. 重启集群
stop-all.sh
start-all.sh
3.重新连接即可
成功运行