大批量快速插入数据方法

原创 2012年08月10日 14:14:23

本方法针对的是sqlserver2008,其他的没试过不能确定是否适用。

有时我们可能要往数据库插入大量数据,如果逐条插入的话会很慢,那有什么方法能

批量插入的吗,下面就说说我在工作中使用的一些方法吧。

方法一:采用多个value值的形式,代码如下:

insert into table (column1,column2,column3) values ('值1','值2','值3'),('值1','值2','值3'),('值1','值2','值3');

上面这行sql 要比一般的插入语句执行速度快的多,我测试了一下,要快20~30倍,

不过这也有个缺点就是value值最多只能有1000条,也就值一次只能插入1000条数据,

还有就值这条语句只适用于sqlserver2008。


二:采用一次性事物提交的方式,也就是多个插入语句,用一次事物提交,具体代

码如下:

begin tran

insert into table (column1,column2,column3) values ('值1','值2','值3');

insert into table (column1,column2,column3) values ('值1','值2','值3');

...

commit

这种方式插入数据数量没有限制,但是要拼接这么长的sql也是需要花费不少时间的,

所以,一次插入多少还是要根据实际情况而定。


方法三:采用bulk insert 方式,这种方式可以根据具体情况变换,我在项目中是把数

据表通过程序过滤出来写入一个文件里面,然后通过bulk insert 方式写入数据库,我

测试的是插入100W条10列的数据需要26s左右。具体代码如下:

bulk insert tables from 'd:/数据.txt'
with(
FIELDTERMINATOR = ',',            
    ROWTERMINATOR = ';'  
)


数据库的优化跟很多因素有关,有硬件因素有软件因素,但更重要的是根据不同情况我们

程序中调用的sql方法,所以优化数据库,首先要优化我们程序里的sql语句。下面附上

数据库性能优化改进各个因素所占比例图:


oracle 快速删除大批量数据方法(全部删除,条件删除,删除大量重复记录)

全部删除如果是删除某个表的所有数据,并且不需要回滚,使用 TRUNCATE 就ok了。关于Trancate 参见这里http://blog.csdn.net/gnolhh168/archive/201...

oracle 快速删除大批量数据方法(全部删除,条件删除,删除大量重复记录)

全部删除 如果是删除某个表的所有数据,并且不需要回滚,使用 TRUNCATE 就ok了。关于Trancate 参见这里http://blog.csdn.net/gnolhh168/archive...

oracle 快速删除大批量数据方法(全部删除,条件删除,删除大量重复记录)

全部删除 如果是删除某个表的所有数据,并且不需要回滚,使用 TRUNCATE 就ok了。关于Trancate 参见这里http://blog.csdn.net/gnolhh168/archive/2...

(1)JDBC (C3P0)大批量数据的插入、更新实用方法。(配置篇)-个人总结

1,.为什么要选用JDBC(C3P0)?     巩答:(1).最近在做大数量的数据处理,一般再对数据量超大的情况下做 插入 更新的时候 ,首先考虑的肯定是 存储过程 但我现在是分 2主库和6个从库(...
  • gjldwz
  • gjldwz
  • 2013年12月10日 00:47
  • 1574

php快速插入大批量数据到Sqlite3

因为需要为一批不大不小的文件插入到数据库分析,为操作方便所以选择了php和Sqlite3。刚开始直接使用的SQLite3类插入数据,我的个天呀慢的要死,30秒只插入了几300多条数据最后还提示php-...

D:\Oracle大批量删除数据方法

  • 2010年05月13日 08:51
  • 24KB
  • 下载

大批量更新数据mysql批量更新的四种方法

转载一篇大批量更新mysql数据的办法,为了便于阅读根据原文做了缩减。 mysql 批量更新如果一条条去更新效率是相当的慢, 循环一条一条的更新记录,一条记录update一次,这样性能很差,也很...

mysql大批量数据插入

  • 2012年07月31日 23:52
  • 14KB
  • 下载
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:大批量快速插入数据方法
举报原因:
原因补充:

(最多只允许输入30个字)