【postgresql】优化批量导入的方案

1.增大 maintenance_work_mem 

临时增大 maintenance_work_mem可以改进性能
这个参数也可以帮助加速create index 和alter table add foreigh key 命令,它 
不会对COPY本身有很大的作用,但是它可以加速创建索引和外键约束。

2.增大max_wal_size 

临时增大 max_wal_size 配置变量也可以让大量数据载入更快。
因为向PostgreSQL中载入大量的数据将导致检查点的发生比平常(由checkpoint_timeout
配置变量指定)更频繁,发生检查点时,所有脏页都必须被刷写到磁盘上,通过在批量
数据载入时临时增加 max_wal_size ,减少检查点的数目。

3.使用copy替代insert

如果单值 insert改多值insert,减少SQL解析的时间,如果大量的Insert改用copy;
copy针对批量数据加载进行了优化。
COPY命令时为装载数量巨大的数据行优化过的;它没INSERT那么灵活,但是在大量装载
数据的情况下,导致的负载也很少。因为COPY命令时单条命令,因此填充表的时候就没有
必要关闭自动提交了。

4.关闭自动提交 

关闭自动提交,并且只在每次(数据拷贝)结束的时候做一次提交。

\set AUTOCOMMIT off 
\echo :AUTOCOMMIT 

5.使用Pg_bulkload  

使用Pg_bulkload进行批量导入。来加快大量数据的导入速度。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值