假设有100w条数据,sparkstream窗口时间片为5分钟,Kafka生产数据2种场景:1、Kafka在5分钟平均每分钟生产2w条,5分钟共100w;2、5分钟内,一次性生产100w条。其中后者sparkstream处理的时间远远比前者快.为啥?speakstream窗口是5分钟,处理总数也是一样的,是不是也就是意味着处理时间应该没啥偏差吧,不因由Kafka生产的速率改变而性能不一样吧!
sparkstream窗口内消费kafka相同时间内相同条数速率不同,性能不一样
最新推荐文章于 2022-11-28 20:10:41 发布