greenplum dblink 命令同步数据

目录

12.3 dblink 命令同步数据

12.3.1 dblink使用说明

12.3.2 dblink 同步相同集群不同数据库的数据

12.3.3 验证数据的准确性

12.3.4 dblink 使用总结


12.3 dblink 命令同步数据

12.3.1 dblink使用说明

Dblink 可以实现同数据库之间同步数据,也可不同数据库之间同步数据,甚至不同集群之间同步数据,只需要连接远程数据库即可

12.3.2 dblink 同步相同集群不同数据库的数据

12.3.2.1 同步数据语句

drop table if exists dim.test1;

create table dim.test1 with (appendonly = true, compresstype = zlib, compresslevel = 5

,orientation=column, checksum = false,blocksize = 2097152) as

select * from dblink('hostaddr=192.168.***.** port=5432 dbname=chin*** password=*****',

'SELECT zspid,encode_v1,encode_v2 FROM dim.dim_cif_indmap_xiaoxu')

AS dbltab(zspid character varying(500),encode_v1 character varying(500),encode_v2 character varying(500))

DISTRIBUTED BY (zspid);

 

时间: 1631.477s

 

受影响的行: 0

 

受影响的行: 182683056

 

 

在以上可以看出用时1631.477s,大约需要27m,简直太慢,扣鸡腿,扣鸡腿......

 

12.3.2.2 查看Master 节点的详细信息

 

12.3.2.3 查看数据节点的详细信息

数据节点一的详细信息

 

 

数据节点二的详细信息

 

 

数据节点三的详细信息

 

12.3.3 验证数据的准确性

select count(*) from dim.test1;

-- 182683056

 

select pg_size_pretty(pg_relation_size('dim.test1'));

-- 27 GB

 

数据的准确性没问题

12.3.4 dblink 使用总结

dblink 因为中间需要映射一张临时表dbltab,在以上的截图中可以看出, master主节点的cpu比较高,数据节点还可以,可以用于比较小的表同步。

Greenplum 集群之间同步数据方法及性能.....................................................................................1 1 概述.................................................................................................................................................2 2 相同集群相同数据库不同 SCHEMA 之间同步数据....................................................................2 2.1 查看原始表的大小行数与结构......................................................................................... 2 2.2 同步语句..............................................................................................................................2 2.3 查看 cpu 与内存的使用情况..............................................................................................3 2.3.1 查看 Master CPU 与内存使用情况.........................................................................3 2.3.2 查看数据节点的 CPU 使用情况..............................................................................3 2.3.3 查看数据节点的内存与磁盘使用情况..................................................................6 2.4 查看耗时与表的大小..........................................................................................................7 3 相同集群不同数据库之间同步数据.............................................................................................8 3.1 使用 pg_dum 方式同步数据..............................................................................................8 3.1.1 查看原始表的信息...................................................................................................8 3.1.2 把数据下载到磁盘...................................................................................................9 3.1.2.1 下载数据语句............................................................................................... 9 3.1.2.2 查看 Master 节点详细信息.........................................................................9 3.1.3 把数据导入到数据库中........................................................................................ 10 3.1.3.1 导入数据库语句......................................................................................... 10 3.1.3.2 查看 Master 节点的详细信息...................................................................11 3.1.3.3 查看数据节点的详细信息.........................................................................11 3.1.4 验证数据的准确性................................................................................................ 13 3.1.5 pg_dump 同步数据总结........................................................................................13 3.2 使用 dblink 同步数据........................................................................................................13 3.2.1 dblink 同步相同集群不同数据库的数据.............................................................13 3.2.1.1 同步语句......................................................................................................13 3.2.1.2 查看 Master 节点的详细信息...................................................................15 3.2.1.3 查看数据节点的详细信息.........................................................................15 3.2.2 验证数据的准确性................................................................................................ 17 3.2.3 dblink 使用总结......................................................................................................17 3.3 使用 gptransfer 同步数据.................................................................................................17 3.3.1 gptransfer 介绍.......................................................................................................17 3.3.2 gptransfer 命令参数介绍.......................................................................................18 3.3.3 查看集群及硬件信息............................................................................................ 19 3.3.4 同集群之间同步数据............................................................................................ 19 3.3.4.1 查看表的详细信息..................................................................................... 19 3.3.4.2 进行表数据同步......................................................................................... 19 3.3.4.3 查看硬件详细信息..................................................................................... 21 3.3.4.4 查看数据的准确性..................................................................................... 23 3.3.4.5 使用 gptransfer 总结...................................................................................23 3.3.5 不同集群之间同步数据........................................................................................ 24
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

盒马coding

你的支持是我最大的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值