java 多线程执行 sql 语句(用ExecutorService实现)

可应用场景: 数据量较大, 而单次执行sql时间长

数据量过大的情况, 单线程执行需要很长一段时间,我们需要开启多线程执行,

注意mysql支持的连接数, 不要超过这个连接数

 创建 服务, Executors.newFixedThreadPool(70);

里面的数字根据自己的需求和mysql的能力来决定 比如我这边开70个

这里我用的读取文件流之后开启线程, 具体场景根据需求自己定

public void test() throws Exception{
		List<List<String>> listAll = new  ArrayList<>();
		//要写入的文件
		File filere = new File("ssd.xlsx");
		//要读取的文件
		File file = new File("dddd.csv");
		InputStreamReader inputStream = new InputStreamReader(new FileInputStream(file),"UTF-8");
		BufferedReader bufferedReader = new BufferedReader(inputStream);
		String  rudata = "";
		ExecutorService loop = Executors.newFixedThreadPool(70);
		int i = 0;
		while ((rudata = bufferedReader.readLine()) != null) {
			List<String> result = new ArrayList<String>();
			rudata = rudata.replaceAll("", "");
			String[] strings = rudata.split(",");
			String daima = "";
			String nianfen = "";
			String kaishi = "";
			String jieshu = "";
			try {
				daima = strings[0];
			} catch (Exception e) {
			}
			try {
				nianfen = strings[1];
			} catch (Exception e) {
			}
			try {
				kaishi = strings[2];
			} catch (Exception e) {
			}
			try {
				jieshu = strings[3];
			} catch (Exception e) {
			}

			result.clear();
			result.add(daima);
			result.add(nianfen);
			result.add(kaishi);
			result.add(jieshu);
			String sql = "SELECT newsnum_title FROM shares WHERE scode = '"+daima+"' ";
				i++;
				Thread2CollectionRate tempTread = new Thread2CollectionRate();
				//把需要装数据的Map放到线程中去
				tempTread.setResult(result);
				tempTread.setListAll(listAll);
				//把需要执行的SQL放到线程中去
				tempTread.setSql(sql);
				//执行线程
				loop.execute(tempTread);
		}
		loop.shutdown();
		try {
			while(true) {
				if(loop.isTerminated()) {
					//listMap中就是你所需要的全部数据
					System.out.println("listAll.size() :" + listAll.size());
					break;
				}
				//每次循环等待250毫秒
				Thread.sleep(250);
			}
		} catch (InterruptedException e1) {
			e1.printStackTrace();
		}
		bufferedReader.close();
		ExcelUtil.write(filere, listAll);
	}

创建一个继承Runnable的类用来执行sql语句并且返回(要记得释放连接))

import java.sql.DriverManager;
import java.sql.ResultSet;
import java.sql.SQLException;
import java.sql.Statement;
import java.util.ArrayList;
import java.util.List;
import java.util.Map;

import com.alibaba.fastjson.JSONObject;
import com.mysql.jdbc.Connection;

public class Thread2CollectionRate  implements Runnable{



	private String sql;
	
	private Statement statement;

	
	private List<String> result ;
	List<List<String>> listAll ;

	@Override
	public void run() {
		ResultSet rse;
		try {
			// 声明Connection对象
			Connection con = null;
			// 驱动程序名
			String driver = "com.mysql.jdbc.Driver";
			// URL指向要访问的数据库名mydata
			String url = "jdbc:mysql://********ToNull";
			// MySQL配置时的用户名
			String user = "root";
			// MySQL配置时的密码
			String password = "****";
			// 遍历查询结果集
			System.out.println("开始连接数据库");
			// 加载驱动程序
			Class.forName(driver);
			con = (Connection) DriverManager.getConnection(url, user, password);
			if (!con.isClosed())
				System.out.println("连接数据库成功");
			// 2.创建statement类对象,用来执行SQL语句!!
			Statement statement = con.createStatement();
			rse = statement.executeQuery(sql);
			while (rse.next()) {
				result.add(rse.getString("newsnum_title"));
			}
			statement.close();
			con.close();
			listAll.add(result);
		} catch (Exception e) {
			e.printStackTrace();
		}
	}

	public String getSql() {
		return sql;
	}

	public void setSql(String sql) {
		this.sql = sql;
	}


	public Statement getStatement() {
		return statement;
	}

	public void setStatement(Statement statement) {
		this.statement = statement;
	}

	public List<String> getResult() {
		return result;
	}

	public void setResult(List<String> result) {
		this.result = result;
	}

	public List<List<String>> getListAll() {
		return listAll;
	}

	public void setListAll(List<List<String>> listAll) {
		this.listAll = listAll;
	}

}

  • 1
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
可以使用Java的JDBC API来执行SQL语句,同时使用多线程来提高执行效率。具体实现如下: 1. 创建一个数据库连接池,可以使用开源的连接池框架如C3P0、Druid等。 2. 创建一个线程池,使用JavaExecutorService实现。 3. 在每个线程中获取一个数据库连接,使用Connection对象创建一个Statement对象。 4. 执行SQL语句,使用Statement对象的execute()或executeUpdate()方法。 5. 关闭Statement对象和数据库连接。 6. 在每个线程执行完毕后,关闭线程池。 下面是一个简单的示例代码: ```java import java.sql.Connection; import java.sql.SQLException; import java.sql.Statement; import java.util.concurrent.ExecutorService; import java.util.concurrent.Executors; import javax.sql.DataSource; public class MultiThreadedSqlExecutor { private final DataSource dataSource; public MultiThreadedSqlExecutor(DataSource dataSource) { this.dataSource = dataSource; } public void executeSqlInParallel(String[] sqlStatements) { ExecutorService executor = Executors.newFixedThreadPool(sqlStatements.length); for (String sql : sqlStatements) { executor.execute(new SqlTask(sql)); } executor.shutdown(); } private class SqlTask implements Runnable { private final String sql; public SqlTask(String sql) { this.sql = sql; } @Override public void run() { Connection conn = null; Statement stmt = null; try { conn = dataSource.getConnection(); stmt = conn.createStatement(); stmt.executeUpdate(sql); } catch (SQLException e) { e.printStackTrace(); } finally { try { if (stmt != null) { stmt.close(); } if (conn != null) { conn.close(); } } catch (SQLException e) { e.printStackTrace(); } } } } } ``` 在上面的代码中,使用了JavaExecutorService来创建一个线程池,然后在每个线程中使用DataSource对象获取数据库连接,执行SQL语句并关闭连接。通过调用executeSqlInParallel()方法来启动多个线程执行SQL语句
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值