Sqlite批量插入速度慢的解决方法小计

写了个保存数据的方法,一共500多条数据,用了一分钟还多,代码如下:

 

   /// <summary>
        /// 保存DataTable
        /// </summary>
        /// <param name="dt">datatable</param>
        /// <returns>影响的行数</returns>
        public int SaveDataTable(DataTable dt)
        {
            try
            {
                DbDataAdapter adapter = _dbProviderFactory.CreateDataAdapter();
                string sql = string.Format(@"select * from {0} where 1=2", dt.TableName);
                DbCommand cmd = _dbProviderFactory.CreateCommand();
                DbCommandBuilder comBuilder = _dbProviderFactory.CreateCommandBuilder();

                comBuilder.DataAdapter = adapter;
                cmd.CommandText = sql;
                cmd.Connection = _con;
                adapter.SelectCommand = cmd;
                adapter.InsertCommand = comBuilder.GetInsertCommand();
                adapter.UpdateCommand = comBuilder.GetUpdateCommand();
                adapter.DeleteCommand = comBuilder.GetDeleteCommand();

                _con.Open();
                 int result = adapter.Update(dt);
                 return result;
            }
            catch (Exception ex)
            {
                  throw new Exception("保存DataTable出错:" + ex.Message);
            }
            finally
            {
                _con.Close();
            }

后来在一篇博客(http://zhiwei.li/text/2010/08/sqlite%E6%8F%92%E5%85%A5%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/)里发现了问题的解决方法,原来sqlite在每执行一次insert操作时都开启一次事务,在sqlite官网上的解释如下:Because it does not have a central server to coordinate access, SQLite must close and reopen the database file, and thus invalidate its cache, for each transaction. In this test, each SQL statement is a separate transaction so the database file must be opened and closed and the cache must be .......

 

  后来将代码修改如下就OK了:

 

     /// <summary>
        /// 保存DataTable
        /// </summary>
        /// <param name="dt">datatable</param>
        /// <returns>影响的行数</returns>
        public int SaveDataTable(DataTable dt)
        {
            try
            {
                DbDataAdapter adapter = _dbProviderFactory.CreateDataAdapter();
                string sql = string.Format(@"select * from {0} where 1=2", dt.TableName);
                DbCommand cmd = _dbProviderFactory.CreateCommand();
                DbCommandBuilder comBuilder = _dbProviderFactory.CreateCommandBuilder();

                comBuilder.DataAdapter = adapter;
                cmd.CommandText = sql;
                cmd.Connection = _con;
                adapter.SelectCommand = cmd;
                adapter.InsertCommand = comBuilder.GetInsertCommand();
                adapter.UpdateCommand = comBuilder.GetUpdateCommand();
                adapter.DeleteCommand = comBuilder.GetDeleteCommand();

                _con.Open();
                _tran = _con.BeginTransaction();//transaction begin 传说中sqlite每执行一条insert语句都开启一个事务,死慢
                cmd.Transaction = _tran;
                int result = adapter.Update(dt);
                _tran.Commit();//transaction end
                return result;
            }
            catch (Exception ex)
            {
                _tran.Rollback();
                throw new Exception("保存DataTable出错:" + ex.Message);
            }
            finally
            {
                _con.Close();
            }
        }

希望遇到相同问题的园友可以看见这篇随笔。

 

转载于:https://www.cnblogs.com/zzy0471/archive/2010/12/25/1916618.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
SQLite 是一个轻量级的嵌入式数据库系统,非常适合资源受限的环境。在 C++ 中进行 SQLite 批量插入可以通过以下步骤实现: 1. 首先确保你的系统已经安装了 SQLite,并且你的 C++ 环境配置了相应的库文件。 2. 打开数据库连接:使用 `sqlite3_open` 函数打开或创建一个数据库文件。 3. 准备 SQL 插入语句:编写包含占位符(如 `?`)的 SQL 插入语句,以便后续执行参数化查询。 4. 打开事务:为了提高批量插入的效率,可以先开启一个事务,这样可以在完成所有插入后再一次性提交。 5. 执行批量插入操作:通过循环,使用 `sqlite3_prepare_v2` 和 `sqlite3_bind_*` 系列函数绑定参数,然后使用 `sqlite3_step` 执行插入。重复此过程直到所有数据被插入。 6. 提交事务:完成所有插入操作后,通过 `sqlite3_commit` 提交事务。 7. 关闭数据库:最后,使用 `sqlite3_close` 关闭数据库连接。 示例代码可能如下所示: ```cpp #include <sqlite3.h> #include <iostream> int main() { sqlite3 *db; char *errMsg = nullptr; const char *sql; int rc; // 打开数据库连接 rc = sqlite3_open("example.db", &db); if (rc) { std::cerr << "无法打开数据库: " << sqlite3_errmsg(db) << std::endl; return 1; } // 开启事务 if (sqlite3_exec(db, "BEGIN TRANSACTION;", nullptr, nullptr, &errMsg) != SQLITE_OK) { std::cerr << "事务开启失败: " << errMsg << std::endl; sqlite3_free(errMsg); sqlite3_close(db); return 1; } // 准备 SQL 插入语句 sql = "INSERT INTO table_name (column1, column2) VALUES (?, ?);"; // 执行批量插入操作 sqlite3_stmt *stmt; if (sqlite3_prepare_v2(db, sql, -1, &stmt, nullptr) != SQLITE_OK) { std::cerr << "准备语句失败: " << sqlite3_errmsg(db) << std::endl; sqlite3_close(db); return 1; } for (int i = 0; i < 1000; ++i) { // 假设我们要插入1000条数据 sqlite3_bind_int(stmt, 1, i); // 绑定第一个参数 sqlite3_bind_text(stmt, 2, "data", -1, SQLITE_TRANSIENT); // 绑定第二个参数 // 执行插入操作 rc = sqlite3_step(stmt); if (rc != SQLITE_DONE) { std::cerr << "插入失败: " << sqlite3_errmsg(db) << std::endl; } sqlite3_reset(stmt); // 重置语句 } // 提交事务 if (sqlite3_exec(db, "COMMIT;", nullptr, nullptr, &errMsg) != SQLITE_OK) { std::cerr << "事务提交失败: " << errMsg << std::endl; sqlite3_free(errMsg); } // 清理 sqlite3_finalize(stmt); sqlite3_close(db); return 0; } ``` 在上面的示例代码中,我们创建了一个名为 `table_name` 的表,并且使用了两个参数进行批量插入。这里我们假设要插入1000条数据,你可以根据实际需要调整循环的次数。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值