spark参数调优系列 目录地址:
https://blog.csdn.net/zyzzxycj/article/details/81011540
⑨ Scheduling
spark.scheduler.maxRegisteredResourcesWaitingTime
在执行前最大等待申请资源的时间,默认30s。
spark.scheduler.minRegisteredResourcesRatio
实际注册的资源数占预期需要的资源数的比例,默认0.8
spark.scheduler.mode
调度模式,默认FIFO 先进队列先调度,可以选择FAIR。
spark.scheduler.revive.interval
work回复重启的时间间隔,默认1s
spark.scheduler.listenerbus.eventqueue.capacity
spark事件监听队列容量,默认10000,必须为正值,增加可能会消耗更多内存
spark.blacklist.enabled
是否列入黑名单,默认false。如果设成true,当一个executor失败好几次时,会被列入黑名单,防止后续task派发到这个executor。可以进一步调节spark.blacklist以下相关的参数: