【StreamSet】StreamSet之定时启动

很多朋友咨询过我,说怎么能够设置StreamSets为定时启动模式,或者定时干某件事,我都很肯定的告诉他,StreamSets不是这么用的,它一旦启动,就会一直跑,只能设定采集速度模糊控制时间。随着新版本的发布,有这方面需求的小伙伴们,你们有福了。这篇文章会隆重介绍新明星组件:CRON

目录

1、定时启动组件CRON

为了实现调度功能,StreamSets从 3.14版本开始引入了新的明星组件Cron

新的版本同时引入了激活码机制,你可以自己注册一个。
在这里插入图片描述

Cron Scheduler组件帮助您在业务流程管道中使用的业务流程调度管理。 编排阶段执行诸如计划和启动管道以及Control Hub作业之类的任务,您可以使用这些任务来跨StreamSets 平台创建编排的工作流。 例如,业务流程管道可以使用Cron Scheduler在每个星期一的上午6点生成一条记录,以触发“启动管道”处理器,该处理器启动一个管道来加载上周的数据并生成报告。

配置Cron Scheduler组件时,可以定义用于生成记录的时间表。您可以使用cron表达式和该表达式的时区来指定计划。在计划的时间,组件生成一条记录,并将其传递到业务流程管道中的下一个阶段。

2、Cron表达式

组件使用Cron Schedule属性中的UNIX cron表达式来确定何时生成记录。您可以在“时区”属性中为表达式指定一个时区。

cron表达式是由六个或七个字段隔开的字符串。
例如,以下cron表达式在每月的第一天上午9点生成一条记录:0 0 9 1 1/1 ? *

UI可以根据您的规范创建表达式,或者您可以使用cron表达式语法输入表达式:

UI创建的表达式
选择与所需的记录生成频率相匹配的选项卡,然后指出何时要生成记录。用户界面会根据您的选择生成有效的cron表达式。

例如,下图显示了一个配置,该配置在美国中部时区的每个月的第一天上午9点生成记录。UI显示由UI配置生成的只读cron表达式。
在这里插入图片描述

秒:值为0 1 2…59 通配符支持* / - ,
分:值为0 1 2…59 通配符支持* / - ,
时:值为0 1 2…23 通配符支持* / - ,
日:值为1 2…31 通配符支持* / - , L W C
月:值为1 2…12,或12个月的缩写(JAN … DEC) 通配符支持* / - ,
周:值为1 2…7或星期的缩写(SUN … SAT) 通配符支持* / - , ? L # C
年:值为2020 … 2099 通配符支持* / - ,

关于表达式,有一篇详细的文档,可供你参考。

3、来个栗子:定时监控微服务

我们半分钟一次,拉取微服务的健康检查接口,以便能及时发现微服务的故障。
Cron配置为 0/30 * * 1/1 * ? *
在这里插入图片描述

4、监控结果

从监控摘要里,可以看到我们的定时器半分钟1次忠实的运行。
在这里插入图片描述

5、总结

StreamSets越来越强大了,以前的痛点被逐步解决,激活码也已经开启,可能慢慢的会为商业化做准备,毕竟不好好商业运营的公司不是好公司。
让我们期待更好的DataOps吧!

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值