C#大批量数据插入MySQL数据库的性能问题

19 篇文章 0 订阅

1.将表的引擎设为myisam

 

2.每1000条数据提交一次

这个是sqlite数据库批量插入的解决方案,可参考思路

最近处理一个将csv内容导入到sqlite数据库中,使用了事务(BEGIN TRANSACTION; sql语句; COMMIT;)

测试发现一次1000条导入,反而比10000条导入要快,总共6万多条数据,整下下来竟然快有6分钟,真是奇怪

    var iCount = 0;
            var dDataTime = DateTime.Now;
            var mCsvHelp = new CsvHelper();
            var mDataTable = mCsvHelp.GetCsvData(@"E:\", "scrm_friend");
            var mSql = new StringBuilder();
            var conn = new SQLiteConnection(@"Data Source=E:\mydatabase.db");
            SQLiteCommand command;
            conn.Open();
            for (var i = 0; i < mDataTable.Rows.Count; i++)
            {
                var mRows = mDataTable.Rows[i];
                mSql.Append("Insert Into scrm_friend (friendid,userid,friendname,phone) values(" + mRows[0] + "," +
                            mRows[1] + ",'" + mRows[2] + "','" + mRows[3] + "');");
                iCount = iCount + 1;
                if (iCount > 1000)
                {
                    command = new SQLiteCommand
                    {
                        Connection = conn,
                        CommandText = "BEGIN TRANSACTION;" + mSql + "COMMIT;"
                    };
                    command.ExecuteNonQuery();
                    mSql.Remove(0, mSql.Length);
                    iCount = 0;
                }
            }
            command = new SQLiteCommand
            {
                Connection = conn,
                CommandText = "BEGIN TRANSACTION;" + mSql + "COMMIT;"
            };
            command.ExecuteNonQuery();

            MessageBox.Show((DateTime.Now - dDataTime).ToString());

 

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值