问大家两个问题:
1.flume收集数据打到kafka中,数据量太大了,kafka消费不了,这种情况怎么办。-------增加消费组的消费者个数,提高并行度
补充:经过了压缩,高效的序列化以后,io和cpu都打满的情况下,只能增加机器。
2.kafka消费数据,用sparkstreaming来消费,怎么能够做到不同的消费者看不到其他的数据,做到权限控制。-----你是不同的消费组还是不同的消费者?
面试总结
最新推荐文章于 2023-03-07 00:33:46 发布
问大家两个问题:
1.flume收集数据打到kafka中,数据量太大了,kafka消费不了,这种情况怎么办。-------增加消费组的消费者个数,提高并行度
补充:经过了压缩,高效的序列化以后,io和cpu都打满的情况下,只能增加机器。
2.kafka消费数据,用sparkstreaming来消费,怎么能够做到不同的消费者看不到其他的数据,做到权限控制。-----你是不同的消费组还是不同的消费者?