flinkx二次开发

Flinkx优点:

FlinkX简化了数据同步任务的开发过程,用户只需提供一份数据同步任务的配置,FlinkX会将配置转化为Flink任务,并自动提交到Flink集群上执行。用于在多种数据源(MySQL、Oracle、SqlServer、Ftp、Hdfs,HBase、Hive、Elasticsearch等)之间进行高效稳定的数据同步。

Flinkx缺点:

flinkx启动是通过flinkx 加配置文件的方式启动,项目的需求是可视化采集,需要在界面动态配置,然后提交任务,后台自动启动数据采集,所以要封装rest api层接口。

rest api接口规划:

 

 

 

{
    "job": {
        "setting": {},
        "content": [{
            "reader": {
                "name": "ftpreader",
                "parameter": {
                    "protocol": "sftp",
                    "host": "127.0.0.1",
                    "port": 22,
                    "username": "username",
                    "password": "password",
                    "column": [{
                        "index": 0,
                        "type": "",
                        "value": "value"
                    }],
                    "path": "/upload",
                    "encoding": "UTF-8",
                    "fieldDelimiter": ",",
                    "isFirstLineHeader": true
                }
            },
            "writer": {}
        }]
    }
}

 

 

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值