Postgresql (GreenPlum) psycopg2的批量数据插入

psycopg2 数据批量插入问题记录

由于最近用到greenplum,需要进行一些数据库批量插入操作,由于其操作方式与postgresql相同,因此采用的是psycopg2(2.8.4) 做底层驱动。

由于数据量较大,所以采用了批量插入操作,也就是其自带的executemany,从名字来看会给我们其真的是批量插入的错觉(搜了下,大部分搜索结果也是说批量插入使用该操作,坑~(⊙﹏⊙)),但是,实际执行时发现插入速度过慢,觉得很奇怪,通过

SELECT
	*
FROM
	pg_stat_activity
WHERE
	usename = 'your-use-name'
AND xact_start IS NOT NULL

查看实际执行情况,发现其最终还是单条数据执行插入,这不是坑嘛,难怪慢,对psycopg2源码进行查看,发现其extras.py模块有个execute_values方法,这个才是真正的执行批量操作,然后就替换了,速度就哐哐哐上来了,over~

参考:
1. Postgresql实用技巧

  • 2
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
psycopg2是一个Python的数据库驱动程序,用于连接和操作PostgreSQL数据库。在进行数据批量插入操作时,可以使用psycopg2的executemany方法。然而,实际执行时可能会发现插入速度较慢。这是因为psycopg2的executemany方法并不真正执行批量插入,而是将每条数据当作单独的插入操作执行,导致速度变慢。 为了解决这个问题,可以使用psycopg2的extras模块中的execute_values方法进行批量操作。通过查看psycopg2的源码,可以找到这个方法并进行替换,从而实现真正的批量插入操作,提高插入速度。参考中的链接提供了相关的技巧和示例代码。 下面是一个使用psycopg2进行批量插入的方法示例: ```python import psycopg2 from psycopg2 import extras def insertManyRow(strings): try: conn = psycopg2.connect(database="数据库", user="用户名", password="密码", host="ip", port="端口号") cur = conn.cursor() sql = "INSERT INTO test(字段1,字段2,字段3,字段4,字段5) VALUES(%s,%s,%s,%s,%s)" extras.execute_values(cur, sql, strings) conn.commit() conn.close() except Exception as e: print("执行sql时出错:%s" % (e)) conn.rollback() conn.close() ``` 在这个示例中,使用了psycopg2的extras模块中的execute_values方法来执行批量插入操作。将插入数据作为参数传递给该方法,同时指定插入的SQL语句和参数的位置。通过这种方式,可以提高插入的效率。参考中的psycopg2文档可以了解更多关于该方法的详细信息。 此外,参考提供了一个在Stack Overflow上的讨论链接,其中讨论了使用psycopg2进行快速批量插入的方法,也可以供您参考。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [Postgresql (GreenPlum) psycopg2批量数据插入](https://blog.csdn.net/xiaodongxiexie/article/details/104048068)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *2* *3* [【python】爬虫篇:python使用psycopg2批量插入数据(三)](https://blog.csdn.net/lsr40/article/details/83537974)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值