datax关于postsql数据增量迁移的问题

看官方文档是不支持的

数据源及同步方案_大数据开发治理平台 DataWorks(DataWorks)-阿里云帮助中心 (aliyun.com)

看了下源码有个postsqlwriter 看了下也就拼接sql

PostgresqlWriter中的不允许更新先注释了 让他过去先

然后看到 WriterUtil中的对应方法

getWriteTemplate

确实只有对应mysql的方法

在下面加个postgres的

else if(forceUseUpdate ||
                ((dataBaseType == DataBaseType.PostgreSQL ) && writeMode.trim().toLowerCase().startsWith("update"))) {
            writeDataSqlTemplate = new StringBuilder()
                    .append("INSERT INTO %s (").append(StringUtils.join(columnHolders, ","))
                    .append(") VALUES(").append(StringUtils.join(valueHolders, ","))
                    .append(")")
                    .append(onDuplicateKeyUpdateStringPostgres(columnHolders,writeMode.replace("update#","")))
                    .toString();
}

 其中调用方法

public static String onDuplicateKeyUpdateStringPostgres(List<String> columnHolders,String pk){
        if (columnHolders == null || columnHolders.size() < 1) {
            return "";
        }
        StringBuilder sb = new StringBuilder();
        sb.append(" ON CONFLICT ("+pk+") DO UPDATE SET ");
        boolean first = true;
        for(String column:columnHolders){
            if(column.equalsIgnoreCase(pk)){
                continue;
            }
            if(!first){
                sb.append(",");
            }else{
                first = false;
            }
            sb.append(column);
            sb.append("=EXCLUDED.");
            sb.append(column);
        }

        return sb.toString();
    }

然后配置文件中带上id

对应刚刚改的代码中的

  • 5
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值