Chunjun纯钧(Flinkx)同步任务开发通用配置参数详解

本文详述Chunjun纯钧(Flinkx)数据同步框架的任务配置,包括Reader、Writer、Setting(Speed、ErrorLimit、MetricPluginConf、Restore、Log)等关键配置项,提供数据源配置与任务管理的指导。
摘要由CSDN通过智能技术生成

Chunjun纯钧(Flinkx)是一款稳定、易用、高效、批流一体的数据集成框架,目前基于实时计算引擎Flink实现多种异构数据源之间的数据同步与计算,支持JSON模版配置任务,兼容FlinkSQL语法。本文对chunjun同步任务的配置文件进行详细的介绍和总结。

配置文件结构详解

一个完整的ChunJun任务脚本配置包含contentsetting两个部分。content用于配置任务的输入源与输出源,其中包含readerwriter。而setting则配置任务整体的环境设定,其中包含speederrorLimitmetricPluginConfrestorelogdirty。总体结构如下所示:

{
   
  "job": {
   
    "content": [
      {
   
        "reader": {
   },
        "writer": {
   }
      }
    ],
    "setting": {
   
      "speed": {
   },
      "errorLimit": {
   },
      "metricPluginConf": {
   },
      "restore": {
   },
      "log": {
   },
      "dirty": {
   }
    }
  }
}
名称 说明 是否必填
contend reader reader插件详细配置
writer writer插件详细配置
setting speed 速率限制
errorLimit 出错控制
metricPluginConf 指标插件配置
restore 任务类型及断点续传配置
log 日志记录配置
dirty 脏数据保存

Content配置

Reader

reader用于配置数据的输入源,即数据从何而来。具体配置如下所示:

"reader" : {
   
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

张飞的猪

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值