Java 使用JDBC 批量删除千万级数据

对于千万级表的清理有三种办法;

1.drop table 表名:用来删除表对象 。风险较大,后续不再使用,可以使用该方法。

2.truncate table 表名:清空表中所有数据,表结构还存在。所有数据不再使用,可以使用该方法

3.对于表结构不能删除,且只是按照条件删除表中某个条件数据,建议使用如下方法。高效删除数据,且不会删除其他条件数据。自动循环查询删除。


import java.sql.*;
import java.util.Date;

/**
 * @Author BlueFire
 * @Date 2020/4/17 -22:13
 */
public class InsertTest {
    public static void main(String[] args) throws ClassNotFoundException, SQLException {
        final String url = "jdbc:mysql://127.0.0.1:3306/mooding?autoReconnect=true&useUnicode=true&characterEncoding=utf8&serverTimezone=Asia/Shanghai";
        final String name = "com.mysql.jdbc.Driver";
        final String user = "root";
        final String password = "123456";
        Connection conn = null;
        Class.forName(name); //指定连接类型
        conn = DriverManager.getConnection(url, user, password); //获取连接
        if (conn != null) {
            System.out.println("获取连接成功");
            deleteBatch(conn);//批量删除数据
        } else {
            System.out.println("获取连接失败");
        }
        conn.close();
    }
   
    //批量删除 千万条数据
    public static void deleteBatch(Connection conn) throws SQLException {
        //数据中需要删除的数据量
        Long expiredCount = 0L;
        //已经删除数据量
        Long totalDeleted = 0L;
        //要删除表的名字
        String table = "t_users";
        //要删除的条件
        String schoolName = "XX大学";
        // 开始时间
        Long begin = new Date().getTime();
        //带有占位符的sql
        String sql = "delete from ? where school_name = ?     limit 100000 ";
        PreparedStatement pstmt = conn.prepareStatement(sql);
        //循环批量删除
        do {
            pstmt.setString(1, table);
            pstmt.setString(2, schoolName);
            // 返回值代表收到影响的行数
            int result = pstmt.executeUpdate();
            //已经删除条数
            totalDeleted += result;
            //还有条数
            expiredCount = queryCount(table, schoolName, conn);
        } while (expiredCount > 0);
        // 结束时间
        Long end = new Date().getTime();
        // 耗时
        System.out.println("千万条数据删除花费时间 : " + (end - begin) / 1000 + " s");
        System.out.println("删除完成");
    }

    //查询过期记录数量
    private static long queryCount(String table, String schoolName, Connection conn) throws SQLException {
        String sql = "SELECT COUNT (*) as cnt FROM  ?  where  school_name = ? ";
        PreparedStatement pstmt = conn.prepareStatement(sql);
        pstmt.setString(1, table);
        pstmt.setString(2, schoolName);
        ResultSet rs = pstmt.executeQuery(sql);
        while (rs.next()) {
            long count = rs.getInt("cnt");
            return count;
        }
        return 0L;
    }
}

导入千万级数据方法可参考下文

千万条数据批量插入数据库表

  • 2
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
你可以使用JDBC批量插入数据到ClickHouse数据库。下面是一个简单的示例代码来演示如何使用JDBC批量插入数据: ```java import java.sql.Connection; import java.sql.DriverManager; import java.sql.PreparedStatement; import java.sql.SQLException; public class ClickHouseBatchInsert { public static void main(String[] args) { // JDBC连接信息 String url = "jdbc:clickhouse://localhost:8123/default"; String username = "your_username"; String password = "your_password"; // SQL插入语句 String sql = "INSERT INTO your_table (column1, column2, column3) VALUES (?, ?, ?)"; // 数据集 Object[][] data = { {"value1_1", "value1_2", "value1_3"}, {"value2_1", "value2_2", "value2_3"}, {"value3_1", "value3_2", "value3_3"} }; try (Connection conn = DriverManager.getConnection(url, username, password); PreparedStatement pstmt = conn.prepareStatement(sql)) { // 关闭自动提交 conn.setAutoCommit(false); // 批量插入数据 for (Object[] row : data) { for (int i = 0; i < row.length; i++) { pstmt.setObject(i + 1, row[i]); } pstmt.addBatch(); } // 执行批量插入 int[] result = pstmt.executeBatch(); // 提交事务 conn.commit(); System.out.println("成功插入 " + result.length + " 条数据"); } catch (SQLException e) { e.printStackTrace(); } } } ``` 在这个示例中,你需要将`url`、`username`和`password`替换为你实际的ClickHouse连接信息,将`your_table`替换为你要插入数据的目标表名。然后,根据你的数据集,调整`data`数组中的值和列数。 这个示例中使用了`PreparedStatement`来执行预编译的SQL语句,并使用`addBatch()`方法将批量插入的每一行添加到批处理中。最后,通过调用`executeBatch()`方法执行批处理操作,并使用`commit()`方法提交事务。 这样,你就可以使用JDBC批量插入数据到ClickHouse数据库了。希望对你有所帮助!如果有任何问题,请随时提问。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值