Datax-web 添加达梦数据库

 环境JDK1.8

node 10.24.1

python 2.X

Datax分支tag202309版本

后端项目  分支使用2.1.3-alpha-releaseGitHub - WeiYe-Jing/datax-web: DataX集成可视化页面,选择数据源即可一键生成数据同步任务,支持RDBMS、Hive、HBase、ClickHouse、MongoDB等数据源,批量创建RDBMS数据同步任务,集成开源调度系统,支持分布式、增量同步数据、实时查看运行日志、监控执行器资源、KILL运行进程、数据源信息加密等。DataX集成可视化页面,选择数据源即可一键生成数据同步任务,支持RDBMS、Hive、HBase、ClickHouse、MongoDB等数据源,批量创建RDBMS数据同步任务,集成开源调度系统,支持分布式、增量同步数据、实时查看运行日志、监控执行器资源、KILL运行进程、数据源信息加密等。 - WeiYe-Jing/datax-webicon-default.png?t=N7T8https://github.com/WeiYe-Jing/datax-web.git

 前端项目  分支使用2.1.3-alpha-release

        GitHub - WeiYe-Jing/datax-web-ui: DataX Web UI

1、添加达梦JDBC  jdbc包放到 datax-admin/src/mian/lib下

2、pom.xml添加依赖

 <dependency>
            <groupId>com.dameng</groupId>
            <artifactId>Dm8JdbcDriver18</artifactId>
            <version>8.1.1.193</version>
            <scope>system</scope>
            <systemPath>${basedir}/src/main/lib/DmJdbcDriver18-8.1.1.193.jar</systemPath>
        </dependency>

3、新增DMWriter类

package com.wugui.datax.admin.tool.datax.writer;

/**
 * 达梦
 */
public class DMWriter extends BaseWriterPlugin implements DataxWriterInterface {

    @Override
    public String getName() {
        return "rdbmswriter";
    }
}

4、新增DMReader类

package com.wugui.datax.admin.tool.datax.reader;


/**
 * 达梦
 */
public class DMReader extends BaseReaderPlugin implements DataxReaderInterface {

    @Override
    public String getName() {
        return "rdbmsreader";
    }
}

5、新增DMSQLQueryTool类

package com.wugui.datax.admin.tool.query;

import com.wugui.datatx.core.enums.DbType;

public class DMSQLQueryTool extends BaseQueryTool implements QueryToolInterface{

    public DMSQLQueryTool(DbType dbType, String parameter) {
        super(dbType, parameter);
    }
}

6、在Constants类中添加达梦支持

        datax-core/src/main/java/Constants

public static final String COM_DAMENG_JDBC_DRIVER = "dm.jdbc.driver.DmDriver";
public static final String DAMENG = "DAMENG";
public static final String JDBC_DAMENG = "jdbc:dm://";

7、datax-core项目新增Datasource类

package com.wugui.datatx.core.datasource;

import com.wugui.datatx.core.enums.DbType;
import com.wugui.datatx.core.util.Constants;

public class DMDataSource extends BaseDataSource{
    @Override
    public String driverClassSelector() {
        return Constants.COM_DAMENG_JDBC_DRIVER;
    }

    @Override
    public DbType dbTypeSelector() {
        return DbType.DAMENG;
    }
}

8、datax-core项目DbType新增达梦枚举

DAMENG(14, Constants.COM_DAMENG_JDBC_DRIVER, DMDataSource.class, "dameng")

9、datax-admin项目DbTypePlugin插件类新增达梦枚举

    DAMENG(DbType.DAMENG, DMDatabaseMeta.getInstance(), DMSQLQueryTool.class, new DMReader(), new DMWriter());

10、datax-admin项目新增DMDatabaseMeta类 

package com.wugui.datax.admin.tool.meta;

/**
 * 达梦数据库meta信息查询
 */
public class DMDatabaseMeta extends BaseDatabaseMeta{

    private volatile static DMDatabaseMeta single;

    public static DMDatabaseMeta getInstance() {
        if (single == null) {
            synchronized (DMDatabaseMeta.class) {
                if (single == null) {
                    single = new DMDatabaseMeta();
                }
            }
        }
        return single;
    }

    @Override
    public String getSQLQueryComment(String schemaName, String tableName, String columnName) {
        return String.format("SELECT COMMENTS FROM ALL_COL_COMMENTS WHERE SCHEMA_NAME = '%s' AND  TABLE_NAME = '%s' AND COLUMN_NAME = '%s'", schemaName, tableName, columnName);
    }

    @Override
    public String getSQLQueryPrimaryKey() {
        return "SELECT WM_CONCAT(B.COLUMN_NAME) PK_COLUMNS FROM ALL_CONSTRAINTS A, ALL_CONS_COLUMNS B WHERE  A.CONSTRAINT_type='P' AND A.OWNER=? AND A.TABLE_NAME=? AND B.OWNER = A.OWNER  AND A.TABLE_NAME = B.TABLE_NAME GROUP BY A.OWNER, A.TABLE_NAME";
    }

    @Override
    public String getSQLQueryTables() {
        return "select table_name FROM user_tables";
    }

    @Override
    public String getSQLQueryColumns(String... args) {
        return "SELECT COLUMN_NAME FROM ALL_TAB_COLUMNS WHERE OWNER = ? AND TABLE_NAME = ?";
    }

    /**
     *
     * @param args
     * @return
     */
    @Override
    public String getSQLQueryTableSchema(String... args) {
        return "SELECT DISTINCT OBJECT_NAME FROM DBA_OBJECTS WHERE OBJECT_TYPE='SCH'";
    }
}

11、前端添加配置

       dataSources属性添加

        

 { value: 'DAMENG', label: 'DAMENG' }

       selectDataSource方法添加

else if (type === 'DAMENG') {
        this.temp.connectionParams.jdbcUrl = 'jdbc:dm://{host}:{port}'
      }

  • 10
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 8
    评论
### 回答1: DataX是阿里巴巴开源的一款大数据同步工具,用于实现不同数据源之间的数据同步。MySQL8是一个流行的关系型数据库,提供了更好的性能和功能。DataX的MySQL8插件是为了支持从MySQL8数据库中读取数据和写入数据而开发的。 DataX的MySQL8插件可以通过配置文件来连接和操作MySQL8数据库。通过指定MySQL8的连接信息,包括主机名、端口、数据库名、用户名和密码,DataX可以与MySQL8建立连接。此外,还可以配置读取的表、字段信息,以及筛选条件等。 对于读取数据,MySQL8插件支持多种读取方式,包括全量读取和增量读取。全量读取是指每次读取整个表中的所有数据,而增量读取是指只读取最近一段时间内发生变化或新增的数据。通过设置不同的读取方式和参数,可以满足各种数据同步的需求。 对于写入数据,MySQL8插件可以将读取的数据按照指定的规则写入到MySQL8数据库中。可以配置写入的表、字段信息,以及写入模式(覆盖、追加等)。同时,还可以进行数据转换和过滤,以确保写入的数据符合目标表的结构和要求。 总的来说,DataX的MySQL8插件为用户提供了灵活和高效的数据同步方案。无论是全量同步还是增量同步,都可以通过配置插件来满足不同的需求。同时,插件还支持数据的转换和过滤,使得数据同步的过程更加可控和可靠。 ### 回答2: DataX是一个开源的数据同步工具,支持各种数据源之间的数据同步。MySQL是一种流行的关系型数据库系统,数据在其中以表的形式存储和组织。而DataX MySQL 插件是DataX提供的一种用于将数据从其他数据源同步到MySQL数据库的插件。 DataX MySQL插件通过读取其他数据源的数据,并将其转换为MySQL可以接受的格式,然后插入到MySQL数据库中。插件支持从多种数据源(如Oracle、SQL Server、HDFS等)读取数据,并将其同步到MySQL数据库中的指定表中。 DataX MySQL插件提供了丰富的配置选项,可以根据需要对数据同步过程进行详细的配置。可以指定要同步的表名、字段映射关系、数据过滤条件等。同时,插件还支持并行同步,可以提高数据同步的速度和效率。 通过使用DataX MySQL插件,我们可以轻松实现数据从其他数据源到MySQL数据库的迁移和同步。无论是单向同步还是增量同步,都可以通过简单的配置来实现。另外,DataX提供了丰富的插件生态系统,可以支持更多不同类型的数据源,使得数据同步更加灵活和适应不同场景的需求。 总之,DataX MySQL插件为我们提供了一个方便、高效的数据同步解决方案,可以帮助我们快速实现数据迁移和同步,并满足不同场景下的需求。 ### 回答3: datax是阿里巴巴开源的大数据同步工具,可以实现不同数据源之间的数据迁移和同步。datax支持多种数据源,包括MySQL、Oracle、SQL Server等。 datax的mysql插件是datax中连接和操作MySQL数据库的组件。MySQL是一种常用的关系型数据库管理系统,提供了高效、可靠、稳定的数据存储和管理能力。 通过datax的mysql插件,可以方便地将MySQL数据库中的数据同步到其他数据库中,或者将其他数据库中的数据同步到MySQL数据库中。datax mysql插件支持多种数据同步方式,包括全量同步和增量同步。 使用datax的mysql插件进行数据同步时,需要配置源数据库和目标数据库的连接信息,包括主机名、端口号、用户名、密码等。通过datax的mysql插件,可以灵活配置数据同步的规则,可以选择同步表的范围,指定同步的字段,还可以进行数据过滤和转换等操作。 datax的mysql插件具有高效、可靠的特点,可以在大数据量的情况下保证数据的准确性和完整性。此外,datax还提供了丰富的插件和扩展,可以满足不同场景的数据同步需求。 总之,datax的mysql插件是一个功能强大、使用方便的工具,可以帮助用户实现MySQL数据库之间的数据同步和迁移。无论是处理小型项目还是大规模的大数据项目,datax的mysql插件都可以提供高效、可靠的数据同步解决方案。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 8
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值