otter中对于Event Processor自定义写法

otter是阿里开源的一个数据库同步工具,如果是表级或库级别的同步那就相当简单了,只需要简单的配置就可实现,如果针对表字段级别的过滤,是需要自己写java代码了

如果是表字段级别的过滤,示例代码如下:

package com.alibaba.otter.node.extend.processor;

import com.alibaba.otter.shared.etl.model.EventColumn;
import com.alibaba.otter.shared.etl.model.EventData;
import org.apache.commons.lang.StringUtils;
import java.util.Arrays;
import java.util.List;
import java.util.HashSet;
import java.util.Set;

public class TestEventProcessor extends AbstractEventProcessor {

 

    public boolean process(EventData eventData) {

        /**
         * 定义采购组织编码
         */
        String orgCode = "aaa";
/**
         * 定义租户ID
         */
        Long tenantId = 1L;

    Boolean isHandle = true;
	
        /**
         * 需要过滤租户和采购组织的集合
         */
        List<String> tenantIdAndOrgCodeList = Arrays.asList("db_user", "db_role");
        /**
         * 需要过滤租户的集合
         */
        List<String> tenantIdList = Arrays.asList("db_tenant", "db_materiel");
        /**
         * 需要过滤采购组织的集合
         */
        List<String> orgCodeList = Arrays.asList("db_orgcode");
        

        /**
         * 过滤采购组织和租户ID
         */
        for (String tenantIdAndOrgCode: tenantIdAndOrgCodeList) {
            if(StringUtils.equals(tenantIdAndOrgCode, eventData.getTableName())) {
                EventColumn orgCodeColumn = getColumn(eventData, "org_code");
                EventColumn tenantIdColumn = getColumn(eventData, "tenant_id");

                //过滤采购组织和租户ID,不是此采购组织和租户ID的不同步
                if (!orgCode.equals(orgCodeColumn.getColumnValue()) && !String.valueOf(tenantId).equals(tenantIdColumn.getColumnValue())) {
                    isHandle = false;
                }
            }
        }

        /**
         * 过滤租户ID
         */
        for (String tenantIdItem: tenantIdList) {
            if(StringUtils.equals(tenantIdItem, eventData.getTableName())) {
                EventColumn tenantIdColumn = getColumn(eventData, "tenant_id");

                //过滤租户ID,不是此租户ID的不同步
                if (!String.valueOf(tenantId).equals(tenantIdColumn.getColumnValue())) {
                    isHandle = false;
                }
            }
        }

        /**
         * 过滤采购组织
         */
        for (String orgCodeItem: orgCodeList) {
            if(StringUtils.equals(orgCodeItem, eventData.getTableName())) {
                EventColumn orgCodeColumn = getColumn(eventData, "org_code");

                //过滤租户ID,不是此租户ID的不同步
                if (!orgCode.equals(orgCodeColumn.getColumnValue())) {
                    isHandle = false;
                }
            }
        }

        return isHandle;

    }

}

解决mysql字段是json类型的处理,示例代码如下:

package com.alibaba.otter.node.extend.processor;

import com.alibaba.otter.shared.etl.model.EventColumn;
import com.alibaba.otter.shared.etl.model.EventData;
import org.apache.commons.lang.StringUtils;
import com.alibaba.fastjson.JSON;
import com.alibaba.fastjson.JSONObject;
import java.util.Arrays;
import java.util.List;
import java.util.HashSet;
import java.util.Set;

public class TestEventProcessor extends AbstractEventProcessor {

   /**
	*定义字段名称
	*/
	private static final Set<String> JSON_FIELD_SET = new HashSet<>();

    public boolean process(EventData eventData) {

        /**
         * 定义采购组织编码
         */
        String orgCode = "bbb";
/**
         * 定义租户ID
         */
        Long tenantId = 1L;



    Boolean isHandle = true;
	
	// 添加需要判断为 JSON 格式的字段名到 JSON_FIELD_SET 中  
        //
        JSON_FIELD_SET.add("name_json");
		
		/**
		* 转化json格式
		*/
		for (EventColumn eventColumn : eventData.getColumns()) {
            if (JSON_FIELD_SET.contains(eventColumn.getColumnName())) {
                String jsonValue = eventColumn.getColumnValue();
                if (StringUtils.isBlank(jsonValue)) {
                    continue;
                }
                eventColumn.setColumnValue(JSON.toJSONString(JSONObject.parse(jsonValue)));
            }
        }

        return isHandle;

    }

}
  • 7
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Otter是一种开源的分布式配置管理和自动化工具,它可以帮助系统管理员轻松管理多台服务器的配置。以下是一个简单的Otter部署过程: 1. 安装Java JDK Otter需要Java JDK 1.7或更高版本才能运行。您可以从Oracle官网下载最新的Java JDK。 2. 下载Otter 您可以从GitHub上下载Otter二进制文件或者源代码。 3. 配置数据库 Otter使用MySQL数据库来存储配置信息和运行日志。您需要安装MySQL并创建一个数据库和相应的用户。 4. 配置OtterOtter的安装目录,您可以找到一个名为otter.properties的配置文件。您需要根据您的环境修改该文件的配置项,比如数据库的连接信息、Otter的监听端口以及Otter的日志级别等。 5. 启动OtterOtter的安装目录,运行以下命令启动Otter: ``` ./bin/startup.sh ``` 6. 配置Agent Otter Agent是一个运行在远程服务器上的代理程序,它负责将本地服务器的配置信息同步到Otter Server上。您需要在每台远程服务器上安装并配置Otter Agent。 7. 部署任务 在Otter的Web控制台,您可以配置和部署任务。您需要定义任务的名称、触发器、源和目标等信息。一旦任务被部署,Otter将根据您的配置自动执行任务。 以上就是一个简单的Otter部署过程。请注意,Otter的配置和部署可能因环境而异。如果您遇到任何问题,请参考官方文档或者在社区寻求帮助。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值