中海庭罗凯:Prometheus监控Argo Workflow云原生工作流的方法

本文介绍了如何使用Prometheus监控Argo Workflow,通过容器化CI和Argo Workflow实现DevOps自动化,提升数据处理效率。文章讨论了Argo Workflow的特点和优势,展示了简单的DAG和Steps编排示例,并强调了监控工作流中的关键指标。通过Prometheus Operator简化了监控配置,实现了对工作流的高效监控。
摘要由CSDN通过智能技术生成

​嘉宾 | 罗凯   整理 | 李天天

出品 | CSDN云原生

业务中当前有多少个端到端工作流实例,它们的状态是什么?在过去的24小时内,有多少个工作流实例未成功完成?为什么未成功完成?完成工作流程实例或工作流程中的特定步骤平均需要多少时间?

针对以上发问,2022年8月9日,CSDN云原生系列在线峰会第15期“Prometheus峰会”上,中海庭运维开发工程师罗凯从企业业务形态及云原生工作流的使用情况入手,分享了Prometheus监控Argo Workflow云原生工作流的方法。

Argo Workflow监控实例

容器化CI + Argo Workflow实现生产的Devops

在引入K8s前,一般使用传统PC工具对数据入库、任务排产及任务派发进行处理,该过程需要人工处理、手动配置,但存在诸多弊端:

  • PC算力有限,大数据集情况下,人工处理效率低下;

  • 手动配置易出错,难以及时发现问题。

于是,我们引入了K8s,利用Argo Workflow任务编排调度实现数据的自动化处理。

引入K8s后的数据流向图

  • 从传统PC工具转型Web化工具,通过容器沙箱提供生产需要的工具并通过CI/CD集成相应的数据容器组成独立的沙箱工作环境,并在需要与人交互的环节提供Web界面和专用的Web访问地址。

  • 规范化作业信息流、数据流,自动化代替手动环境准备。

  • 操作数据集的提交、流转通过CI/CD自动完成。

  • 2
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值