异常问题:Container is running beyond virtual memory limits. Current usage: 119.5 MB of 1 GB physical memory used; 2.2 GB of 2.1 GB virtual memory used. Killing container.
错误原因:
Container is running beyond virtual memory limits. Current usage: 119.5 MB of 1 GB physical memory used; 2.2 GB of 2.1 GB virtual memory used. Killing container.
YARN的虚拟内存计算方式导致,上例中用户程序申请的内存为1Gb,YARN根据此值乘以一个比例(默认为2.1)得出申请的虚拟内存的值,当YARN计算的用户程序所需虚拟内存值大于计算出来的值时,就会报出以上错误。
解决方案:
上网一查,发现有两种方法能解决这个问题:
1.将yarn.nodemanager.vmem-check-enabled的值改为false,即不检查VM的值;(修改yarn-site.xml)参考《https://discuss.elastic.co/t/unable-to-start-elasticsearch-yarn-container-is-running-beyond-virtual-memory-limits/26102/6》
<property> <name>yarn.nodemanager.vmem-check-enabled</name> <value>false</value> </property>
2.将yarn.scheduler.minimum-allocation-mb的值调高一些,默认是1024mb,或者修改yarn.nodemanager.vmem-pmem-ratio的值,默认为2.1,将该值改得更大。
于是,这里我采用了第一种方法,关闭vn检查,需要重新格式化namenode,参考《Kafka:ZK+Kafka+Spark Streaming集群环境搭建(十)安装hadoop2.9.0搭建HA》,再次提交,果然好了。终于解决了这个困扰一天的问题啦!
参考自:https://www.cnblogs.com/yy3b2007com/p/9281354.html