JDBC系列三之------java下Mysql的批量插入的优化

目录

JDBC系列三之------java下Mysql的批量插入的优化

一、批量执行SQL语句

二、高效的批量插入

1. 优化一：使用statement

2.优化二：使用PreparedStatement

3.优化三

4.优化四

JDBC系列

JDBC系列一之------使用JDBC连接Mysql数据库进行增删改查操作(详细版)

JDBC系列二之------Jdbc操作Mysql BLOB类型数据

JDBC系列三之------java下Mysql的批量插入的优化

JDBC系列四之------JDBC对mysql数据库事务处理

JDBC系列五之------java的Dao及其实现类

JDBC系列六之------JDBC数据库连接池

---

JDBC系列三之------java下Mysql的批量插入的优化

一、批量执行SQL语句

当需要成批插入或者更新记录时，可以采用Java的批量更新机制，这一机制允许多条语句一次性提交给数据库批量处理。通常情况下比单独提交处理更有效率

JDBC的批量处理语句包括下面三个方法：

• addBatch(String)：添加需要批量处理的SQL语句或是参数；

• executeBatch()：执行批量处理语句；

• clearBatch():清空缓存的数据

通常我们会遇到两种批量执行SQL语句的情况：

• 多条SQL语句的批量处理；

• 一个SQL语句的批量传参；

二、高效的批量插入

举例：向数据表中插入20000条数据

• 数据库中提供一个test表。创建如下：

CREATE TABLE test(
id INT PRIMARY KEY AUTO_INCREMENT,
NAME VARCHAR(20)
);

1. 优化一：使用statement

Connection conn = JDBCUtils.getConnection();
Statement st = conn.createStatement();
for(int i = 1;i <= 20000;i++){
	String sql = "insert into test(name) values('name_' + "+ i +")";
	st.executeUpdate(sql);
}

2.优化二：使用PreparedStatement

long start = System.currentTimeMillis();
		
Connection conn = JDBCUtils.getConnection();
		
String sql = "insert into test(name)values(?)";
PreparedStatement ps = conn.prepareStatement(sql);
for(int i = 1;i <= 20000;i++){
	ps.setString(1, "name_" + i);
	ps.executeUpdate();
}
		
long end = System.currentTimeMillis();
System.out.println("花费的时间为：" + (end - start));//82340
		
		
JDBCUtils.closeResource(conn, ps);

3.优化三

/*
 * 修改1： 使用 addBatch() / executeBatch() / clearBatch()
 * 修改2：mysql服务器默认是关闭批处理的，我们需要通过一个参数，让mysql开启批处理的支持。
 * 		 ?rewriteBatchedStatements=true 写在配置文件的url后面
 * 修改3：使用更新的mysql 驱动：mysql-connector-java-5.1.37-bin.jar
 * 
 */
@Test
public void testInsert1() throws Exception{
	long start = System.currentTimeMillis();
		
	Connection conn = JDBCUtils.getConnection();
		
	String sql = "insert into test(name)values(?)";
	PreparedStatement ps = conn.prepareStatement(sql);
		
	for(int i = 1;i <= 1000000;i++){
		ps.setString(1, "name_" + i);
			
		//1.“攒”sql
		ps.addBatch();
		if(i % 500 == 0){
			//2.执行
			ps.executeBatch();
			//3.清空
			ps.clearBatch();
		}
	}
		
	long end = System.currentTimeMillis();
	System.out.println("花费的时间为：" + (end - start));//20000条：625                                                                         //1000000条:14733  
		
	JDBCUtils.closeResource(conn, ps);
}

4.优化四

/*
* 层次四：在层次三的基础上操作
* 使用Connection 的 setAutoCommit(false)  /  commit()
*/
@Test
public void testInsert2() throws Exception{
	long start = System.currentTimeMillis();
		
	Connection conn = JDBCUtils.getConnection();
		
	//1.设置为不自动提交数据
	conn.setAutoCommit(false);
		
	String sql = "insert into test(name)values(?)";
	PreparedStatement ps = conn.prepareStatement(sql);
		
	for(int i = 1;i <= 1000000;i++){
		ps.setString(1, "name_" + i);
			
		//1.“攒”sql
		ps.addBatch();
			
		if(i % 500 == 0){
			//2.执行
			ps.executeBatch();
			//3.清空
			ps.clearBatch();
		}
	}
		
	//2.提交数据
	conn.commit();
		
	long end = System.currentTimeMillis();
	System.out.println("花费的时间为：" + (end - start));//1000000条:4978 
		
	JDBCUtils.closeResource(conn, ps);
}

JDBC系列

• JDBC系列一之------使用JDBC连接Mysql数据库进行增删改查操作(详细版)

• JDBC系列二之------Jdbc操作Mysql BLOB类型数据

• JDBC系列三之------java下Mysql的批量插入的优化

• JDBC系列四之------JDBC对mysql数据库事务处理

• JDBC系列五之------java的Dao及其实现类

• JDBC系列六之------JDBC数据库连接池