今天遇到一个问题,某个kafka comsumer特别耗时,排查发现,之前把一些操作写成串行了,但是这个comsumer属于那种来一波消息就中断的,改成并行的又需要大量资源(CPU/MEM),不划算。
后来同事提供了一种思路,将并行的操作拆另一个comsumer里用一个进程分个处理,这样前一个comsumer可以及时消费掉,并且不耗费资源,后一个comsumer串行地处理就不会有很长的耗时,解决了问题也节省了资源,当然前提是对时间的生效性没有很强的要求。
用嵌套的两个kafka实现突发性高并发consumer
最新推荐文章于 2024-07-30 09:27:19 发布