flink 顶层架构:离线和实时,所有数据都是流,如果流有界比如一个小时数据,就是离线批处理,如果流是无界就是实时数据。spark顶层架构:所有处理都是有界数据的批处理,实时的是数据量比较的快速处理。flink 集成了几种常见的资源管理器:hadoop yarn,apache mesos,k8。yarn 专注大数据的资源调度管理,mesos专注通用的资源调度管理。yarn 专注大数据的资源管理,资源粗粒度管理资源利用率低一些;mesos专注通用的资源管理,资源细粒度管理资源利用率高一些,但会有一些问题。k83专注通用的资源管理,包括微服务一起管理,把公司所有资源统一管理起来,但是同样有一些问题。国内95%大数据用的yarn,因为他专注大数据稳定。
flink和spark架构区别
最新推荐文章于 2024-05-19 20:58:38 发布