sqlite批量插入数据巨慢,java解决方案

 

SQLite 是一个软件库,实现了自给自足的、无服务器的、零配置的、事务性的 SQL 数据库引擎。SQLite 是在世界上最广泛部署的 SQL 数据库引擎。SQLite 源代码不受版权限制。

 

  最近做一个从mysql数据库查询数据,导出sqlite的db文件,做好之后点击导出按钮,一个1000条数据导出竟然用了280s,有木有。用户会疯掉的。前端点击完之后没啥反应,一直转圈圈,等待服务器响应,于是就打印服务器响应时间,最后发现在保存sqlite时特别慢,因为我是for循环一条一条insert的,所以可以看到本地的db文件以肉眼可见的龟速在增大,所以就上某度搜索sqlite批量插入的方法,大部分人也碰到了跟我一样的问题,但是好像做java的很少用sqlite,大部分都是mysql、oracle等。但是他们用Android的sqlite提供了一种思想,就是使用事物控制批量插入。事物开启之后所有的update会保存在缓存中,commit时会保存本地文件,于是就写了如下代码。直接从280s骤减为0.8s,太爽了。不说了,直接上代码。

package com.sense.devcenter.device.utils;

import com.sense.devcenter.common.utils.PropertyConfig;
import org.apache.commons.dbcp2.BasicDataSource;
import org.springframework.jdbc.datasource.DataSourceUtils;

import java.sql.Connection;
import java.sql.PreparedStatement;
import java.sql.ResultSet;
import java.sql.SQLException;

public class SqliteUtils {


  private BasicDataSource dataSource = null;

  private Connection con = null;

  public SqliteUtils(String name) {
    initDataSource(name);
  }

  private static final String path = PropertyConfig.getDevicePath();

  public void update(String sql) {
    try {
      PreparedStatement ps = con.prepareStatement(sql);
      ps.executeUpdate();
    } catch (Exception e) {
      throw new RuntimeException(e.getMessage());
    }
  }

  public void beginTransaction(){
    try {
      con.setAutoCommit(false);
    } catch (SQLException e) {
      e.printStackTrace();
    }
  }

  public void commitTransaction(){
    try {
      con.commit();
    } catch (SQLException e) {
      e.printStackTrace();
    }
  }

  private void initDataSource(String name) {
    synchronized (Thread.class) {
      if (null == dataSource) {
        this.dataSource = new BasicDataSource();
        this.dataSource.setUrl("jdbc:sqlite://" + path + name + ".db");
        this.dataSource.setDriverClassName("org.sqlite.JDBC");
      }
    }
    try {
      con = dataSource.getConnection();
    } catch (SQLException e) {
      e.printStackTrace();
    }
  }

  public ResultSet select(String sql){
    Connection con = null;
    try {
      con = dataSource.getConnection();
      PreparedStatement ps = con.prepareStatement(sql);
      return ps.executeQuery();
    } catch (Exception e) {
      throw new RuntimeException(e.getMessage());
    } finally {
      try {
        DataSourceUtils.doReleaseConnection(con, dataSource);
      } catch (SQLException e) {
        e.printStackTrace();
      }
    }
  }

  public void closeDataSource(){
    try {
      dataSource.close();
      con.close();
    } catch (SQLException e) {
      e.printStackTrace();
    }
  }


}

 

转载于:https://www.cnblogs.com/xiao-tangyuan/p/9556114.html

在Python中使用SQLite进行批量插入数据可以通过以下步骤实现: 1. 首先,确保已经安装了Python的SQLite模块,可以使用`pip install sqlite3`命令进行安装。 2. 导入SQLite模块:`import sqlite3` 3. 连接到SQLite数据库:`conn = sqlite3.connect('database.db')`,其中'database.db'是数据库文件的名称,如果不存在则会创建一个新的数据库文件。 4. 创建一个游标对象:`cursor = conn.cursor()` 5. 定义插入数据的SQL语句:`sql = "INSERT INTO table_name (column1, column2, ...) VALUES (?, ?, ...)"`,其中table_name是表名,column1、column2等是表的列名。 6. 准备要插入的数据,以列表的形式存储:`data = [(value1, value2, ...), (value1, value2, ...), ...]` 7. 执行批量插入操作:`cursor.executemany(sql, data)` 8. 提交事务:`conn.commit()` 9. 关闭游标和数据库连接:`cursor.close()`和`conn.close()` 下面是一个示例代码: ```python import sqlite3 # 连接到SQLite数据库 conn = sqlite3.connect('database.db') cursor = conn.cursor() # 定义插入数据的SQL语句 sql = "INSERT INTO students (name, age) VALUES (?, ?)" # 准备要插入的数据 data = [('Alice', 20), ('Bob', 22), ('Charlie', 21)] # 执行批量插入操作 cursor.executemany(sql, data) # 提交事务 conn.commit() # 关闭游标和数据库连接 cursor.close() conn.close() ``` 请注意,上述示例中的表名为`students`,列名为`name`和`age`,你需要根据自己的数据库表结构进行相应的修改。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值