hive执行mapreduce任务卡死

我的虚拟机只分配了2g内存,内存不够。
虚拟机一直会杀死java线程。
太隐蔽了,一直没看到。
其实我看到执行任务是会杀死java线程,nodemanager等线程就被杀死了。
但是以为是其他配置的原因。没往内存不够这方面想,因为几乎没遇到过。
解决方案:
扩容虚拟机内存完事。因为我是虚拟机,在管理页面可以很简单扩容内存。

吐槽一下,查了很多,都没到点上。
在此稍微分享一下查到的原因。
1.有的提到了yarn-site.xml需要配置主节点ip,因为默认是0.0.0.0。我不确定是否会产生这个问题,因为我配置过了。
2.有的提到了内存不够,在yarn-site.xml里面配置内存大小,和cpu核数,有点接近,但其实不是根本原因。实际上是虚拟机内存不够了,和配置无关。
3.有的告诉你自己通过日志分析问题。有点难,因为我看了我的日志,基本没有相关报错,因为直接被系统杀死了。

过了1天,由于类型相同就接上文写了。
好吧,之前执行insert卡住,这次执行order by 卡住。
什么原因呢?
好在这次resourcemanager的日志有异常信息了

2019-12-15 12:52:08,417 INFO org.apache.hadoop.yarn.server.resourcemanager.rmapp.RMAppImpl: Application application_1576413752536_0001 failed 2 times due to Error launching appattempt_1576413752536_0001_000002. Got exception: java.net.ConnectException: Call From ubantuserv/127.0.1.1 to ubantuserv:46437 failed on connection exception: java.net.ConnectException: Connection refused; For more details see:  http://wiki.apache.org/hadoop/ConnectionRefused
	at sun.reflect.GeneratedConstructorAccessor44.newInstance(Unknown Source)
	at sun.reflect.DelegatingConstructorAccessorImpl.newInstance(DelegatingConstructorAccessorImpl.java:45)
	at java.lang.reflect.Constructor.newInstance(Constructor.java:423)
	at org.apache.hadoop.net.NetUtils.wrapWithMessage(NetUtils.java:824)
	at org.apache.hadoop.net.NetUtils.wrapException(NetUtils.java:754)
	at org.apache.hadoop.ipc.Client.getRpcResponse(Client.java:1511)
	at org.apache.hadoop.ipc.Client.call(Client.java:1453)
	at org.apache.hadoop.ipc.Client.call(Client.java:1363)
	at org.apache.hadoop.ipc.ProtobufRpcEngine$Invoker.invoke(ProtobufRpcEngine.java:227)
	at org.apache.hadoop.ipc.ProtobufRpcEngine$Invoker.invoke(ProtobufRpcEngine.java:116)
	at com.sun.proxy.$Proxy82.startContainers(Unknown Source)
	at org.apache.hadoop.yarn.api.impl.pb.client.ContainerManagementProtocolPBClientImpl.startContainers(ContainerManagementProtocolPBClientImpl.java:128)
	at sun.reflect.GeneratedMethodAccessor14.invoke(Unknown Source)
	at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
	at java.lang.reflect.Method.invoke(Method.java:498)
	at org.apache.hadoop.io.retry.RetryInvocationHandler.invokeMethod(RetryInvocationHandler.java:422)
	at org.apache.hadoop.io.retry.RetryInvocationHandler$Call.invokeMethod(RetryInvocationHandler.java:165)
	at org.apache.hadoop.io.retry.RetryInvocationHandler$Call.invoke(RetryInvocationHandler.java:157)
	at org.apache.hadoop.io.retry.RetryInvocationHandler$Call.invokeOnce(RetryInvocationHandler.java:95)
	at org.apache.hadoop.io.retry.RetryInvocationHandler.invoke(RetryInvocationHandler.java:359)
	at com.sun.proxy.$Proxy83.startContainers(Unknown Source)
	at org.apache.hadoop.yarn.server.resourcemanager.amlauncher.AMLauncher.launch(AMLauncher.java:122)
	at org.apache.hadoop.yarn.server.resourcemanager.amlauncher.AMLauncher.run(AMLauncher.java:311)
	at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149)
	at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624)
	at java.lang.Thread.run(Thread.java:748)
Caused by: java.net.ConnectException: Connection refused
	at sun.nio.ch.SocketChannelImpl.checkConnect(Native Method)
	at sun.nio.ch.SocketChannelImpl.finishConnect(SocketChannelImpl.java:717)
	at org.apache.hadoop.net.SocketIOWithTimeout.connect(SocketIOWithTimeout.java:206)
	at org.apache.hadoop.net.NetUtils.connect(NetUtils.java:531)
	at org.apache.hadoop.ipc.Client$Connection.setupConnection(Client.java:690)
	at org.apache.hadoop.ipc.Client$Connection.setupIOstreams(Client.java:794)
	at org.apache.hadoop.ipc.Client$Connection.access$3600(Client.java:412)
	at org.apache.hadoop.ipc.Client.getConnection(Client.java:1568)
	at org.apache.hadoop.ipc.Client.call(Client.java:1399)
	... 19 more

Call From ubantuserv/127.0.1.1 to ubantuserv:46437 failed
我也不知道是啥,只知道ubantuserv是我的虚拟机名字。
For more details see: http://wiki.apache.org/hadoop/ConnectionRefused
既然这么说,我就去看了看。然后其中有一点说ubantu会绑定host,把虚拟机绑定到127.0.1.1,然后我就把/etc/hosts里面的这一条注释掉了。
ok,可以运行了。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值