高效能，大数据量存储方案SqlBulkCopy

原文：高效能，大数据量存储方案SqlBulkCopy

 

前些日子，公司要求做一个数据导入程序，要求将Excel数据，大批量的导入到数据库中，尽量少的访问数据库，高性能的对数据库进行存储。于是在网上进行查找，发现了一个比较好的解决方案，就是采用SqlBulkCopy来处理存储数据。SqlBulkCopy存储大批量的数据非常的高效，就像这个方法的名字一样，可以将内存中的数据表直接的一次性的存储到数据库中，而不需要一次一次的向数据库Insert数据。初次实验，百万级别的数据表，也只需几秒时间内就可以完全的存入数据库中，其速度，比传统的Insert方法不止快很多倍。下面，我将用代码，介绍其用法。

/// <summary>
/// LaborReport Data Import To Database
/// </summary>
/// <param name="laborReport"> laborReport data table </param>
/// <param name="laborReportDetail"> laborReportDetail data table </param>
public void LaborReportInsert(DataTable laborReport, DataTable laborReportDetail)
{
using (SqlConnection conn = new SqlConnection( this .Connection))
{
if (conn.State != ConnectionState.Open)
conn.Open();

using (SqlBulkCopy sqlBCLaborReport = new SqlBulkCopy(conn))
{
sqlBCLaborReport.BatchSize = laborReport.Rows.Count;
sqlBCLaborReport.BulkCopyTimeout = 60 ;
sqlBCLaborReport.DestinationTableName = " LaborReport " ;
sqlBCLaborReport.WriteToServer(laborReport);
}

using (SqlBulkCopy sqlBCLaborReportDetails = new SqlBulkCopy(conn))
{
sqlBCLaborReportDetails.BatchSize = laborReportDetail.Rows.Count;
sqlBCLaborReportDetails.BulkCopyTimeout = 60 ;
sqlBCLaborReportDetails.DestinationTableName = " LaborReportDetails " ;
sqlBCLaborReportDetails.WriteToServer(laborReportDetail);
}

if (conn.State != ConnectionState.Closed)
conn.Close();
}
}

 

 

上边的示例代码，将内存中的两个DataTable 数据一次性的存入数据库中，只要内存中的数据表格的结构跟数据库中的表格结构一样，就可以了，如果数据库中包含自增列字段，我们可以不需要在内存表中定义，当数据保存到数据库中的时候，自增列会自动生成数据的。