【调度】2020-TOSS: A Topology-based Scheduler for Storm Clusters

在DSPS中(例如storm)调度问题上有性能瓶颈:如何在集群中的所有可用节点中部署storm应用拓扑的组件。

TOSS基于结构的调度器:
1.节点间的流量
2.考虑基于拓扑结构形式的调度器
3.减少运行时重新调度的开销

目的:通过缩短总体通信成本来减少进程间的平均延迟,同时平衡多个集群节点的负载。

原理:
TOSS在静态拓扑结构上识别具有大量通信的边,将这种通信密集型的边分到一组slot中
(由α自我调整参数管理的slot)。
将一组executors分配到工作负载最小的节点上。

优点:
1.通过分析拓扑结构绕过昂贵成本的重新调度
2.采用自我调整参数适应工作负载环境的机制,而不是手动设置系统参数

storm整体吞吐量很大程度上取决于事件处理延迟。对于计算延迟的原因:
1.一组executors之间的通信可能会带来大量的网络流量

在这里插入图片描述

这些executors可以在不同的worker进程和工作节点worker node上分配和执行。executor之间的通信成本差异很大,很大程度取决于分配策略。在storm拓扑结构中确定了定向的数据流。
executor之间通信是对storm最佳调度产生不利影响的主要因素之一。很大程度取决于executor被分配到的位置。
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 5
    评论
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

风吹海洋浪

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值