mysql批量插入java_java 下执行mysql 批量插入的几种方法及用时

本文详细介绍了在Java中使用不同方法执行MySQL批量插入数据的性能对比,包括普通插入、使用事务、executeBatch以及load data本地文件导入。通过实验展示了设置rewritebatchedstatements=true和useserverprepstmts=true的executeBatch方法在InnoDB引擎下速度最快,仅需5.2秒。
摘要由CSDN通过智能技术生成

方法1:

java code

conn = drivermanager.getconnection(jdbc_url, jdbc_user, jdbc_pass);

pstmt = conn

.preparestatement("insert into loadtest (id, data) values (?, ?)");

for (int i = 1; i <= count; i++) {

pstmt.clearparameters();

pstmt.setint(1, i);

pstmt.setstring(2, data);

pstmt.execute();

}

myisam:246.6秒、innodb:360.2秒

方法2: 使用事务,不自动commit

java code

conn = drivermanager.getconnection(jdbc_url, jdbc_user, jdbc_pass);

conn.setautocommit(false);

pstmt = conn

.preparestatement("insert into loadtest (id, data) values (?, ?)");

for (int i = 1; i <= count; i++) {

pstmt.clearparameters();

pstmt.setint(1, i);

pstmt.setstring(2, data);

pstmt.execute();

if (i % commit_size == 0) {

conn.commit();

}

}

conn.commit();

innodb:31.5秒

方法3: executebatch

java code

conn = drivermanager.getconnection(jdbc_url

+ "?rewritebatchedstatements=true", jdbc_user, jdbc_pass);

conn.setautocommit(false);

pstmt = conn

.preparestatement("insert into loadtest (id, data) values (?, ?)");

for (int i = 1; i <= count; i += batch_size) {

pstmt.clearbatch();

for (int j = 0; j < batch_size; j++) {

pstmt.setint(1, i + j);

pstmt.setstring(2, data);

pstmt.addbatch();

}

pstmt.executebatch();

if ((i + batch_size - 1) % commit_size == 0) {

conn.commit();

}

}

conn.commit();

innodb:5.2秒

上面的使用时必须

1)rewritebatchedstatements=true

2)useserverprepstmts=true

方法4:先load再commit

java code

conn = drivermanager.getconnection(jdbc_url, jdbc_user, jdbc_pass);

conn.setautocommit(false);

pstmt = conn.preparestatement("load data local infile '' "

+ "into table loadtest fields terminated by ','");

stringbuilder sb = new stringbuilder();

for (int i = 1; i <= count; i++) {

sb.append(i + "," + data + "\n");

if (i % commit_size == 0) {

inputstream is = new bytearrayinputstream(sb.tostring()

.getbytes());

((com.mysql.jdbc.statement) pstmt)

.setlocalinfileinputstream(is);

pstmt.execute();

conn.commit();

sb.setlength(0);

}

}

inputstream is = new bytearrayinputstream(sb.tostring().getbytes());

((com.mysql.jdbc.statement) pstmt).setlocalinfileinputstream(is);

pstmt.execute();

conn.commit();

如您对本文有疑问或者有任何想说的,请点击进行留言回复,万千网友为您解惑!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
JavaMySQL批量存储数据可以使用批处理(batch)的方式进行,这样可以大大提高插入数据的效率。下面是一个简单的示例代码: ```java import java.sql.Connection; import java.sql.DriverManager; import java.sql.PreparedStatement; import java.sql.SQLException; public class BatchInsertDemo { public static void main(String[] args) { String url = "jdbc:mysql://localhost:3306/test"; String username = "root"; String password = "123456"; try { Class.forName("com.mysql.jdbc.Driver"); Connection conn = DriverManager.getConnection(url, username, password); conn.setAutoCommit(false);//关闭自动提交事务 PreparedStatement pstmt = conn.prepareStatement("insert into user(name, age) values (?, ?)"); for (int i = 1; i <= 10000; i++) { pstmt.setString(1, "user" + i); pstmt.setInt(2, i % 100); pstmt.addBatch();//添加到批处理中 } pstmt.executeBatch();//批量执行 conn.commit();//提交事务 pstmt.close(); conn.close(); } catch (ClassNotFoundException | SQLException e) { e.printStackTrace(); } } } ``` 在上面的示例中,我们创建了一个名为`BatchInsertDemo`的类,其中定义了一个`main()`方法。在`main()`方法中,我们首先定义了连接MySQL的URL、用户名和密码,然后使用`Class.forName()`方法加载了MySQL的驱动程序。接下来,我们通过`DriverManager.getConnection()`方法获得了与MySQL数据库的连接,并将自动提交事务关闭。 然后,我们使用`PreparedStatement`对象执行了一条插入语句,并使用`addBatch()`方法将其添加到批处理中。在循环结束后,我们使用`executeBatch()`方法批量执行所有的插入语句,并将事务提交。最后,我们关闭了`PreparedStatement`对象和数据库连接。 需要注意的是,批量插入数据,每次插入的数据量不宜过大,否则可能会导致内存溢出或性能下降。一般来说,每批次插入的数据量在几千到一万条之间比较合适。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值