自动化otter 同步任务配置工具

https://github.com/dongjiashun/otter_auto_tools

前言

aliyun出的otter同步平台,配置过于恶心,如果你要配置线上1000个任务,你是不是要傻了,所以搞个自动化批量配置,替代人肉傻瓜式配置,如果一天配置几百个智商都要打折了,所以我就累了点花了一天 写个了工具,个人已经在使用了,配置了300个爽歪歪。

环境和开发语言

 开发语言: java
 jdk: 1.8
 运行环境 :随意只要有java环境都可以

本工具如何批量自动化配置方法如下

配置文件介绍:

  1. jdbc.properties :otter数据库配置文件
        格式如下:
        driver=com.mysql.jdbc.Driver
        url=jdbc:mysql://xxxxxx:3306/otter
        username=xxxxx
        password=xxxxxxxx
        #url=jdbc:mysql://xxxxxxx/xxx
        #username=root
        #password=
        #董佳顺
        #定义初始连接数
        initialSize=0
        #定义最大连接数
        maxActive=20
        #定义最大空闲
        maxIdle=20
        #定义最小空闲
        minIdle=1
        #定义最长等待时间
        maxWait=60000

  2. otter.properties : otter配置文件
        ##第一步配置添加数据库表信息
        ##-------数据源信息配置-------
        ##---------源数据库配置--------
        source.datasource.id=6
        source.datasource.name=source_all_test
        source.datasource.pwd=xxxxxx
        source.datasource.url=jdbc:mysql://10xxxxx.4:3306
        source.datasource.username=pay
        ##---------目标数据库配置--------
        target.database.name=xxxxx
        target.datasource.id=8
        target.datasource.name=xxxxx
        target.datasource.pwd=%UsxxxxxxxKNJ@
        target.datasource.url=jdbc:mysql://10.xxxxxx:4000/antiFraudReport
        target.datasource.username=djs
        ##-------数据源信息配置-------
        
        ##第二步配置pipline id 设置
        pipeline_id=14

  3. ottertable.txt 模板文件:导入 要同步的表和库 格式为 k 空格 v 
        db1 table1
        db2 table2

配置准备:

  1. 配置 jdbc.properties 修改otter所在的数据库,添加相关权限密码,账号权限就是otter库的所有权,其实只要dml权限就可以了

  2. 配置 otter.properties otter配置文件,可以看到如果我们要配置同步任务 a. 目标数据源的信息时要配置仔细的

  3. ottertable.txt 这个是导入要配置的表 结构 key 空格 value 懂点开发的人 知道我说的是什么,键值对 中间 加空格 格式:db1 table1

以上步骤差不多1分钟或者几秒钟就配置完毕,需要注意点,ottertable.txt 务必写对,

工具运行方式

工具命令 java -cp dbatools-otterauto.jar com.yh.spring.ssm.Controller.OtterAutoAction

细节说明

配置文件参数说明(本来不想带图的,好人做到底!) otter.properties细节说明 imagesource.datasource字段说明 image其中该图显示的是源数据配置 目标配置就是以target.datasource 开头命名

感想

 只需要配置好文件,运行命令 即可。对面阿里云那套 配置体系 我无力吐槽

后期改进

目前otter存在的问题有,无辜挂起,配置不人性化,异常无法精确,相关canal监控无法监控

  1. 工具日志显示人性化,这个有开发基础 随便改
  2. 代码结构,因为是自己用的工具代码优化没有做,如果后面后使用者需要 我可以改改,自己用算了
  3. 相关数据源添加,链接对象判断。目前没有加,后可以加上这个功能,可以判断配置文件是否正确
  4. 可视化界面导入,有空我做做

以上就是工具的使用方法,不清楚的或者有问题的 可以加微信 18757589409.

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值