在现代企业中,数据已经成为核心资产,基于开源数据集成平台SeaTunnel,工程师如何高效地连接和管理这些数据源,直接关系到企业的竞争力和运营效率。
本文将给大家介绍如何通过 JDBC PostgreSQL 数据源连接器,在 SeaTunnel 平台中实现高效的数据处理与集成,并详细解析其关键功能和使用场景。
支持的引擎
在数据集成和处理的过程中,选择合适的引擎至关重要。JDBC PostgreSQL 数据源连接器支持以下引擎:
- Spark: 适用于大规模数据处理和实时流处理。
- Flink: 强大的流式数据处理引擎,适合需要低延迟和高吞吐量的场景。
- SeaTunnel Zeta: 专为数据集成和处理设计的轻量级引擎,提供高效、灵活的解决方案。
使用依赖
对于 Spark/Flink 引擎
使用 Spark 或 Flink 引擎时,需要确保将 JDBC 驱动程序 jar 包 放置在 ${SEATUNNEL_HOME}/plugins/
目录中。
对于 SeaTunnel Zeta 引擎
使用 SeaTunnel Zeta 引擎时,请将 JDBC 驱动程序 jar 包 放置在 ${SEATUNNEL_HOME}/lib/
目录中。
关键功能
JDBC PostgreSQL 数据源连接器在数据处理过程中,提供了一系列关键功能,帮助企业高效地管理和利用数据:
- 批量处理 (Batch): 支持大规模数据的批量读取和处理。
- 流处理 (Stream): 当前尚未支持流式数据处理。
- 精确一次 (Exactly-Once): 确保数据处理的精确一致性,避免重复和数据丢失。
- 列投影 (Column Projection): 允许用户选择和投影特定的列,以优化数据读取的性能。
- 并行处理 (Parallelism): 支持数据的并行读取和处理,提高处理效率。
- 用户定义的拆分 (User-Defined Split): 支持用户定义的拆分策略,灵活处理不同的数据分片需求。
数据源信息
连接器支持不同版本的 PostgreSQL 数据源,每个版本可能使用不同的驱动程序类。以下是支持的数据源信息:
数据源 | 支持的版本 | 驱动程序 | 连接 URL | Maven 下载链接 |
---|---|---|---|---|
PostgreSQL | 各版本依赖使用不同的驱动程序类 | org.postgresql.Driver | jdbc:postgresql://localhost:5432/test | 下载 |
PostgreSQL | 若需操作 GEOMETRY 类型数据 | org.postgresql.Driver | jdbc:postgresql://localhost:5432/test | 下载 |
数据库依赖
请下载与您的数据源相对应的 Maven 支持列表,并将其复制到 $SEATUNNEL_HOME/plugins/jdbc/lib/
目录中。例如,对于 PostgreSQL 数据源,请将 postgresql-xxx.jar
文件复制到上述目录。
数据类型映射
JDBC PostgreSQL 连接器提供了丰富的数据类型支持,将 PostgreSQL 数据类型映射到 SeaTunnel 的数据类型:
PostgreSQL 数据类型 | SeaTunnel 数据类型 |
---|---|
BOOL | BOOLEAN |
_BOOL | ARRAY<BOOLEAN> |
BYTEA | BYTES |
_BYTEA | ARRAY<TINYINT> |
INT2, SMALLSERIAL | SMALLINT |
_INT2 | ARRAY<SMALLINT> |
INT4, SERIAL | INT |
_INT4 | ARRAY<INT> |
INT8, BIGSERIAL | BIGINT |
_INT8 | ARRAY<BIGINT> |
FLOAT4 | FLOAT |
_FLOAT4 | ARRAY<FLOAT> |
FLOAT8 | DOUBLE |
_FLOAT8 | ARRAY<DOUBLE> |
NUMERIC (指定列大小 > 0) | DECIMAL (指定列大小,获取指定列的小数点右边的数字个数) |
NUMERIC (指定列大小 < 0) | DECIMAL (38, 18) |
BPCHAR, CHARACTER, VARCHAR, TEXT | STRING |
_BPCHAR, _CHARACTER, _VARCHAR, _TEXT | ARRAY<STRING> |
TIMESTAMP(s), TIMESTAMPTZ(s) | TIMESTAMP(s) |
TIME(s), TIMETZ(s) | TIME(s) |
DATE | DATE |
选项
名称 | 类型 | 必填 | 默认值 | 描述 |
---|---|---|---|---|
url | String | 是 | - | JDBC 连接的 URL。例如:jdbc:postgresql://localhost:5432/test |
driver | String | 是 | - | 连接到远程数据源的 JDBC 类名,如果使用 PostgreSQL,值为 org.postgresql.Driver |
user | String | 否 | - | 连接实例的用户名 |
password | String | 否 | - | 连接实例的密码 |
query | String | 是 | - | 查询语句 |
connection_check_timeout_sec | Int | 否 | 30 | 验证连接的数据库操作完成的等待时间(秒) |
partition_column | String | 否 | - | 并行处理的分区列名,只支持数值类型主键,且只能配置一个列 |
partition_lower_bound | BigDecimal | 否 | - | 分区列的最小值,如果未设置,SeaTunnel 将查询数据库获取最小值 |
partition_upper_bound | BigDecimal | 否 | - | 分区列的最大值,如果未设置,SeaTunnel 将查询数据库获取最大值 |
partition_num | Int | 否 | 作业并行度 | 分区数量,只支持正整数,默认值为作业并行度 |
fetch_size | Int | 否 | 0 | 对于返回大量对象的查询,可以配置行获取大小以提高性能,减少满足选择条件所需的数据库命中次数。0 表示使用 JDBC 默认值 |
properties | Map | 否 | - | 其他连接配置参数,当 properties 和 URL 存在相同参数时,优先级由驱动程序的具体实现决定,例如在 MySQL 中,properties 优先于 URL |
并行读取
JDBC 源连接器支持从表中并行读取数据。SeaTunnel 将使用某些规则拆分表中的数据,然后交给读者读取。读者的数量由 parallelism
选项决定。
拆分键规则
- 如果
partition_column
不为空,将用于计算拆分。该列必须是 支持的拆分数据类型。 - 如果
partition_column
为空,SeaTunnel 将从表中读取架构并获取主键和唯一索引。如果主键和唯一索引中有多个列,支持的拆分数据类型 中的第一列将用于拆分数据。例如,表有主键(nn guid, name varchar),因为guid
不在 支持的拆分数据类型 中,因此将使用列name
进行数据拆分。
支持的拆分数据类型
- 字符串
- 数字(int、bigint、decimal 等)
- 日期
相关拆分选项
split.size
每个拆分包含多少行,当读取表时,捕获的表将拆分为多个拆分。
split.even-distribution.factor.lower-bound
不推荐使用
块键分布因子的下限。此因子用于确定表数据是否均匀分布。如果计算出的分布因子大于或等于此下限(即(MAX(id) - MIN(id) + 1)/ 行数),则表块将优化为均匀分布。否则,如果分布因子较小,表将被视为不均匀分布,并在估计的分片数超过 sample-sharding.threshold
值时使用基于采样的分片策略。默认值为 0.05。
split.even-distribution.factor.upper-bound
不推荐使用
块键分布因子的上限。此因子用于确定表数据是否均匀分布。如果计算出的分布因子小于或等于此上限(即```markdown
PostgreSQL 数据源连接器:在 SeaTunnel 中的应用与优势
在现代企业中,数据已经成为核心资产,如何高效地连接和管理这些数据源,直接关系到企业的竞争力和运营效率。本文将深入探讨如何通过 JDBC PostgreSQL 数据源连接器,在 SeaTunnel 平台中实现高效的数据处理与集成,并详细解析其关键功能和使用场景。
支持的引擎
在数据集成和处理的过程中,选择合适的引擎至关重要。JDBC PostgreSQL 数据源连接器支持以下引擎:
- Spark: 适用于大规模数据处理和实时流处理。
- Flink: 强大的流式数据处理引擎,适合需要低延迟和高吞吐量的场景。
- SeaTunnel Zeta: 专为数据集成和处理设计的轻量级引擎,提供高效、灵活的解决方案。
使用依赖
对于 Spark/Flink 引擎
使用 Spark 或 Flink 引擎时,需要确保将 JDBC 驱动程序 jar 包 放置在 ${SEATUNNEL_HOME}/plugins/
目录中。
对于 SeaTunnel Zeta 引擎
使用 SeaTunnel Zeta 引擎时,请将 JDBC 驱动程序 jar 包 放置在 ${SEATUNNEL_HOME}/lib/
目录中。
关键功能
JDBC PostgreSQL 数据源连接器在数据处理过程中,提供了一系列关键功能,帮助企业高效地管理和利用数据:
- 批量处理 (Batch): 支持大规模数据的批量读取和处理。
- 精确一次 (Exactly-Once): 确保数据处理的精确一致性,避免重复和数据丢失。
- 列投影 (Column Projection): 允许用户选择和投影特定的列,以优化数据读取的性能。
- 并行处理 (Parallelism): 支持数据的并行读取和处理,提高处理效率。
- 用户定义的拆分 (User-Defined Split): 支持用户定义的拆分策略,灵活处理不同的数据分片需求。
数据源信息
连接器支持不同版本的 PostgreSQL 数据源,每个版本可能使用不同的驱动程序类。以下是支持的数据源信息:
数据源 | 支持的版本 | 驱动程序 | 连接 URL | Maven 下载链接 |
---|---|---|---|---|
PostgreSQL | 各版本依赖使用不同的驱动程序类 | org.postgresql.Driver | jdbc:postgresql://localhost:5432/test | 下载 |
PostgreSQL | 若需操作 GEOMETRY 类型数据 | org.postgresql.Driver | jdbc:postgresql://localhost:5432/test | 下载 |
数据库依赖
请下载与您的数据源相对应的 Maven 支持列表,并将其复制到 $SEATUNNEL_HOME/plugins/jdbc/lib/
目录中。例如,对于 PostgreSQL 数据源,请将 postgresql-xxx.jar
文件复制到上述目录。
数据类型映射
JDBC PostgreSQL 连接器提供了丰富的数据类型支持,将 PostgreSQL 数据类型映射到 SeaTunnel 的数据类型:
PostgreSQL 数据类型 | SeaTunnel 数据类型 |
---|---|
BOOL | BOOLEAN |
_BOOL | ARRAY<BOOLEAN> |
BYTEA | BYTES |
_BYTEA | ARRAY<TINYINT> |
INT2, SMALLSERIAL | SMALLINT |
_INT2 | ARRAY<SMALLINT> |
INT4, SERIAL | INT |
_INT4 | ARRAY<INT> |
INT8, BIGSERIAL | BIGINT |
_INT8 | ARRAY<BIGINT> |
FLOAT4 | FLOAT |
_FLOAT4 | ARRAY<FLOAT> |
FLOAT8 | DOUBLE |
_FLOAT8 | ARRAY<DOUBLE> |
NUMERIC (指定列大小 > 0) | DECIMAL (指定列大小,获取指定列的小数点右边的数字个数) |
NUMERIC (指定列大小 < 0) | DECIMAL (38, 18) |
BPCHAR, CHARACTER, VARCHAR, TEXT | STRING |
_BPCHAR, _CHARACTER, _VARCHAR, _TEXT | ARRAY<STRING> |
TIMESTAMP(s), TIMESTAMPTZ(s) | TIMESTAMP(s) |
TIME(s), TIMETZ(s) | TIME(s) |
DATE | DATE |
选项
名称 | 类型 | 必填 | 默认值 | 描述 |
---|---|---|---|---|
url | String | 是 | - | JDBC 连接的 URL。例如:jdbc:postgresql://localhost:5432/test |
driver | String | 是 | - | 连接到远程数据源的 JDBC 类名,如果使用 PostgreSQL,值为 org.postgresql.Driver |
user | String | 否 | - | 连接实例的用户名 |
password | String | 否 | - | 连接实例的密码 |
query | String | 是 | - | 查询语句 |
connection_check_timeout_sec | Int | 否 | 30 | 验证连接的数据库操作完成的等待时间(秒) |
partition_column | String | 否 | - | 并行处理的分区列名,只支持数值类型主键,且只能配置一个列 |
partition_lower_bound | BigDecimal | 否 | - | 分区列的最小值,如果未设置,SeaTunnel 将查询数据库获取最小值 |
partition_upper_bound | BigDecimal | 否 | - | 分区列的最大值,如果未设置,SeaTunnel 将查询数据库获取最大值 |
partition_num | Int | 否 | 作业并行度 | 分区数量,只支持正整数,默认值为作业并行度 |
fetch_size | Int | 否 | 0 | 对于返回大量对象的查询,可以配置行获取大小以提高性能,减少满足选择条件所需的数据库命中次数。0 表示使用 JDBC 默认值 |
properties | Map | 否 | - | 其他连接配置参数,当 properties 和 URL 存在相同参数时,优先级由驱动程序的具体实现决定,例如在 MySQL 中,properties 优先于 URL |
并行读取
JDBC 源连接器支持从表中并行读取数据。SeaTunnel 将使用某些规则拆分表中的数据,然后交给读者读取。读者的数量由 parallelism
选项决定。
拆分键规则
- 如果
partition_column
不为空,将用于计算拆分。该列必须是 支持的拆分数据类型。 - 如果
partition_column
为空,SeaTunnel 将从表中读取架构并获取主键和唯一索引。如果主键和唯一索引中有多个列,支持的拆分数据类型 中的第一列将用于拆分数据。例如,表有主键(nn guid, name varchar),因为guid
不在 支持的拆分数据类型 中,因此将使用列name
进行数据拆分。
支持的拆分数据类型
- 字符串
- 数字(int、bigint、decimal 等)
- 日期
相关拆分选项
split.size
每个拆分包含多少行,当读取表时,捕获的表将拆分为多个拆分。
split.even-distribution.factor.lower-bound
不推荐使用
块键分布因子的下限。此因子用于确定表数据是否均匀分布。如果计算出的分布因子大于或等于此下限(即(MAX(id) - MIN(id) + 1)/ 行数),则表块将优化为均匀分布。否则,如果分布因子较小,表将被视为不均匀分布,并在估计的分片数超过 sample-sharding.threshold
值时使用基于采样的分片策略。默认值为 0.05。
split.even-distribution.factor.upper-bound
不推荐使用
块键分布因子的上限。此因子用于确定表数据是否均匀分布。如果计算出的分布因子小于或等于此上限(即(MAX(id) - MIN(id) + 1)/ 行数),则表块将优化为均匀分布。否则,如果分布因子更大,则如果预估的分片数超过 指定的值,则该表将被视为分布不均匀,并且将使用基于采样的分片策略sample-sharding.threshold。默认值为 100.0。
split.sample-sharding.threshold
此配置指定触发采样分片策略的估计分片数阈值。当分布因子超出 chunk-key.even-distribution.factor.upper-bound
和 chunk-key.even-distribution.factor.lower-bound
指定的范围,并且估计的分片数(计算为近似行数/块大小)超过此阈值时,将使用采样分片策略。这有助于更高效地处理大数据集。默认值为 1000 分片。
split.inverse-sampling.rate
采样分片策略中使用的采样率的倒数。例如,如果此值设置为 1000,则表示在采样过程中应用 1/1000 的采样率。此选项提供了控制采样粒度的灵活性,从而影响最终的分片数量。对于非常大的数据集,较低的采样率是首选。默认值为 1000。
partition_column [string]
用于拆分数据的列名。
partition_upper_bound [BigDecimal]
扫描的 partition_column 最大值,如果未设置,SeaTunnel 将查询数据库获取最大值。
partition_lower_bound [BigDecimal]
扫描的 partition_column 最小值,如果未设置,SeaTunnel 将查询数据库获取最小值。
partition_num [int]
不推荐使用,正确的方法是通过
split.size
控制拆分数量
需要拆分成多少个分片,仅支持正整数。默认值为作业并行度。
提示
如果表不能拆分(例如,表没有主键或唯一索引,并且未设置
partition_column
),它将以单一并发运行。使用
table_path
替换query
进行单表读取。如果需要读取多个表,请使用table_list
。
任务示例
简单示例:
此示例在测试 “数据库” 中查询 type_bin ‘table’ 16 数据,并以单并行方式查询其所有字段。您还可以指定要查询的字段并最终输出到控制台。
通过 partition_column 并行
使用您配置的分片字段并行读取查询表中的数据。如果您想读取整个表,可以这样做。
通过主键或唯一索引并行
配置 table_path 将开启自动拆分,您可以配置 split.* 以调整拆分策略。
并行边界
指定查询上限和下限的数据会更高效。根据您配置的上限和下限读取数据源会更高效。
多表读取
配置 table_list
将开启自动拆分,您可以配置 split.*
以调整拆分策略
通过正确配置 PostgreSQL JDBC 源连接器,企业可以在复杂的数据环境中高效地管理和处理数据。
使用 SeaTunnel 的灵活性和强大的功能,用户可以轻松实现数据的并行处理和高效查询,从而在数据驱动的业务决策中获得更大的优势。
本文由 白鲸开源 提供发布支持!