错误日志:
解决方案:
参考文章:http://www.bubuko.com/infodetail-2332804.html
修改参数:
props.setProperty("fetch.max.wait.ms", "60000");
props.setProperty("session.timeout.ms", "500000");
props.setProperty("max.partition.fetch.bytes", "262144");
将超时时间设置的更长,将一次拉取大小设置成默认的四分之一,防止处理时间过长导致session失效,导致提交offset失败。
因fetch.max.wait.ms不能大于request.timeout.ms,所以还要修改这个参数:
props.setProperty("request.timeout.ms", "600000");
问题得到解决。
2.另一个原因
运维把hbase的memCache调小了,导致查询命中率下降,和磁盘的交互增加,查询速度变慢,队列打满,查询超时。