DataX-Web 解决任务批量构建Bug

前文回顾:
《DataX 及 DataX-Web 安装使用详解》
《DataX 源码调试及打包》
《DataX-Web 源码调试及打包》
《DataX 二次开发支持 Oracle 更新数据》


在使用任务批量构建功能过程中,偶然发现异构数据库之间表的对应关系错乱,最终排查是由于两边表名大小写导致 datax-web 对表名排序后顺序没对应上,因为大小写的ASCII码不一样,就比如 mysql 导入到 oracle,我们可以做如下改动。

方法一:排序时忽略大小写。

方法二:两边先全部转大写或小写排序,再取出原表名。如下

修改com.wugui.datax.admin.service.impl.DatasourceQueryServiceImpl类 的 getTables() 方法

@Override
public List<String> getTables(Long id, String tableSchema) throws IOException {
    //获取数据源对象
    JobDatasource datasource = jobDatasourceService.getById(id);
    //queryTool组装
    if (ObjectUtil.isNull(datasource)) {
        return Lists.newArrayList();
    }
    if (JdbcConstants.HBASE.equals(datasource.getDatasource())) {
        return new HBaseQueryTool(datasource).getTableNames();
    } else if (JdbcConstants.MONGODB.equals(datasource.getDatasource())) {
        return new MongoDBQueryTool(datasource).getCollectionNames(datasource.getDatabaseName());
    } else if (JdbcConstants.MYSQL.equals(datasource.getDatasource()) || JdbcConstants.ORACLE.equals(datasource.getDatasource())) {
        //如果是MYSQL或者ORACLE 对表名重新排序
        BaseQueryTool qTool = QueryToolFactory.getByDbType(datasource);
        if (StringUtils.isBlank(tableSchema)) {
            List<String> list = qTool.getTableNames();
            return parseList(list);
        } else {
            List<String> list = qTool.getTableNames(tableSchema);
            return parseList(list);
        }
    } else {
        BaseQueryTool qTool = QueryToolFactory.getByDbType(datasource);
        if (StringUtils.isBlank(tableSchema)) {
            return qTool.getTableNames();
        } else {
            return qTool.getTableNames(tableSchema);
        }
    }
}

/**
* 将集合内容大写并重新排序,然后返回原表名
*
* @param list
* @return
* @date 20220821 12"52
*/
private List<String> parseList(List<String> list) {
    List<String> upList = new ArrayList<>();
    List<String> resultList = new ArrayList<>();
    Map<String,String> map=new HashMap<>();
    for (String str : list) {
        //转为大写加入新集合
        String upStr = str.toUpperCase();
        upList.add(upStr);
        map.put(upStr,str);
    }
    //对集合重新排序
    Collections.sort(upList);

    //顺序取出原表名
    for (String upstr : upList) {
        String oldStr=map.get(upstr);
        resultList.add(oldStr);
    }
    return resultList;
}


更多技术干货,请持续关注程序员大佬超。
原创不易,转载请注明出处。

  • 4
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
要在DataX-Web中创建任务模板,首先需要安装DataX-Web并启动服务。安装DataX-Web的详细步骤可以参考中提供的链接。安装完成后,可以通过访问指定的地址[ip:9527/index.html,使用预设的账号(admin)和密码(123456)登录DataX-Web。登录成功后,可以按照以下步骤创建任务模板: 1. 在DataX-Web的界面中,找到菜单中的“数据源”选项,点击进入。 2. 在数据源页面中,选择创建新的数据源,填写相关信息,例如数据库的连接信息、用户名、密码等。 3. 创建完数据源后,回到DataX-Web的主界面,找到菜单中的“项目”选项,点击进入。 4. 在项目页面中,选择创建新的项目,填写项目的名称和描述等信息。 5. 创建完项目后,在项目详情页中,找到“任务模板”选项,点击进入。 6. 在任务模板页面中,选择创建新的任务模板,填写模板的名称、描述以及相关的配置信息。 7. 配置信息包括读取器和写入器的设置,可以根据具体需求选择相应的插件和参数。 8. 创建完任务模板后,可以在任务模板列表中查看和管理已创建的模板。 通过以上步骤,您就可以在DataX-Web中成功创建任务模板了。请确保您已按照正确的步骤安装和配置DataX-Web,并在登录后按照上述步骤进行操作。希望对您有帮助! 引用内容: DataX-Web下载和安装: 链接地址:ip:9527/index.html,账号:admin,密码:123456 DataX任务模板创建和使用的详细步骤<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* *3* [使用DataX同步数据库数据,并使用DataX-Web创建同步任务](https://blog.csdn.net/txyllyyj/article/details/129144623)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT0_1"}}] [.reference_item style="max-width: 100%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

程序员大佬超

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值