.net2.0中使用SqlBulkCopy进行大批量数据迁移

在.Net1.1中无论是对于批量插入整个DataTable中的所有数据到数据库中,还是进行不同数据源之间的迁移,都不是很方便。而在.Net2.0中,SQLClient命名空间下增加了几个新类帮助我们通过DataTable或DataReader批量迁移数据。数据源可以来自关系数据库或者XML文件,甚至WebService返回结果。其中最重要的一个类就是SqlBulkCopy类,使用它可以很方便的帮助我们把数据源的数据迁移到目标数据库中。
下面我们先通过一个简单的例子说明这个类的使用:

None.gif DateTime startTime;
None.gif    
protected   void  Button1_Click( object  sender, EventArgs e)
ExpandedBlockStart.gifContractedBlock.gif    
dot.gif {
InBlock.gif        startTime 
= DateTime.Now;
InBlock.gif        
string SrcConString;
InBlock.gif        
string DesConString;
InBlock.gif        SqlConnection SrcCon 
= new SqlConnection();
InBlock.gif        SqlConnection DesCon 
= new SqlConnection();
InBlock.gif        SqlCommand SrcCom 
= new SqlCommand();
InBlock.gif        SqlDataAdapter SrcAdapter 
= new SqlDataAdapter();
InBlock.gif        DataTable dt 
= new DataTable();
InBlock.gif        SrcConString 
=
InBlock.gif        ConfigurationManager.ConnectionStrings[
"SrcDBConnectionString"].ConnectionString;
InBlock.gif        DesConString 
=
InBlock.gif        ConfigurationManager.ConnectionStrings[
"DesDBConnectionString"].ConnectionString;
InBlock.gif        SrcCon.ConnectionString 
= SrcConString;
InBlock.gif        SrcCom.Connection 
= SrcCon;
InBlock.gif        SrcCom.CommandText 
= " SELECT * From [SrcTable]";
InBlock.gif        SrcCom.CommandType 
= CommandType.Text;
InBlock.gif        SrcCom.Connection.Open();
InBlock.gif        SrcAdapter.SelectCommand 
= SrcCom;
InBlock.gif        SrcAdapter.Fill(dt);
InBlock.gif        SqlBulkCopy DesBulkOp;
InBlock.gif        DesBulkOp 
= new SqlBulkCopy(DesConString,
InBlock.gif        SqlBulkCopyOptions.UseInternalTransaction);
InBlock.gif        DesBulkOp.BulkCopyTimeout 
= 500000000;
InBlock.gif        DesBulkOp.SqlRowsCopied 
+=
InBlock.gif        
new SqlRowsCopiedEventHandler(OnRowsCopied);
InBlock.gif        DesBulkOp.NotifyAfter 
= dt.Rows.Count;
InBlock.gif        
try
ExpandedSubBlockStart.gifContractedSubBlock.gif        
dot.gif{
InBlock.gif            DesBulkOp.DestinationTableName 
= "SrcTable";
InBlock.gif            DesBulkOp.WriteToServer(dt);
ExpandedSubBlockEnd.gif        }

InBlock.gif        
catch (Exception ex)
ExpandedSubBlockStart.gifContractedSubBlock.gif        
dot.gif{
InBlock.gif            lblResult.Text 
= ex.Message;
ExpandedSubBlockEnd.gif        }

InBlock.gif        
finally
ExpandedSubBlockStart.gifContractedSubBlock.gif        
dot.gif{
InBlock.gif            SrcCon.Close();
InBlock.gif            DesCon.Close();
ExpandedSubBlockEnd.gif        }

ExpandedBlockEnd.gif    }

None.gif
None.gif    
private   void  OnRowsCopied( object  sender, SqlRowsCopiedEventArgs args)
ExpandedBlockStart.gifContractedBlock.gif    
dot.gif {
InBlock.gif        lblCounter.Text 
+= args.RowsCopied.ToString() + " rows are copied<Br>";
InBlock.gif        TimeSpan copyTime 
= DateTime.Now - startTime;
InBlock.gif        lblCounter.Text 
+= "Copy Time:" + copyTime.Seconds.ToString() + "." + copyTime.Milliseconds.ToString() + " seconds";
ExpandedBlockEnd.gif    }

接着具体分析这几行代码:
None.gif SqlBulkCopy DesBulkOp;
None.gifDesBulkOp 
=   new  SqlBulkCopy(DesConString, SqlBulkCopyOptions.UseInternalTransaction);
先生成SqlBulkCopy 实例,构造函数指定了目标数据库,使用SqlBulkCopyOptions.UseInternalTransaction是指迁移动作指定在一个Transaction当中,如果数据迁移中产生错误或异常将发生回滚。其他选项请参考MSDN。

None.gif DesBulkOp.BulkCopyTimeout  =   500000000 ;

指定操作完成的Timeout时间

None.gif         DesBulkOp.SqlRowsCopied  +=   new  SqlRowsCopiedEventHandler(OnRowsCopied);
None.gif        DesBulkOp.NotifyAfter 
=  dt.Rows.Count;
None.gif        
try
ExpandedBlockStart.gifContractedBlock.gif        
dot.gif {
InBlock.gif            DesBulkOp.DestinationTableName 
= "SrcTable";
InBlock.gif            DesBulkOp.WriteToServer(dt);
ExpandedBlockEnd.gif        }

None.gif
NotifyAfter属性指定通知通知事件前处理的数据行数,在这里指定为表的行数,并添加SqlRowsCopied事件输出整个迁移过程的时间。WriteToServer方法就是将数据源拷备到目标数据库。在使用WriteToServer方法之前必须先指定DestinationTableName属性,也就是目标数据库的表名,

我们还可以自己定义一个Transaction,例如:

None.gif SqlTransaction Transaction;
None.gifTransaction 
=
None.gifSrcCom.Connection.BeginTransaction();
None.gifSqlBulkCopy DesBulkOp;
None.gifDesBulkOp 
=   new  SqlBulkCopy( new  SqlConnection(DesConString),
None.gifSqlBulkCopyOptions.Default,
None.gifTransaction);
None.gif
None.gif
try
ExpandedBlockStart.gifContractedBlock.gif
dot.gif {    
InBlock.gif
//dot.gifdot.gif..
ExpandedBlockEnd.gif
}

ExpandedBlockStart.gifContractedBlock.gif
catch dot.gif {}     
None.gif
finally
ExpandedBlockStart.gifContractedBlock.gif
dot.gif {
InBlock.gifTransaction.Commit();
ExpandedBlockEnd.gif}

另外还有一个SqlBulkCopyColumnMapping类,可以让数据源字段映射到目标数据中命名不同的字段上。也就是说如果目标数据和源数据的列名不同时,可以用这个类进行映射:
None.gif SqlBulkCopyColumnMapping ColMap  =   new  SqlBulkCopyColumnMapping( " SrcCol " " DesCol " );
None.gifDesBulkOp.ColumnMappings.Add(ColMap);

或者可以直接添加映射:
None.gif DesBulkOp.ColumnMappings.Add( " SrcCol " " DesCol " );

性能问题:
我使用上面的例子测试,迁移了2万条左右的记录,花的时间不到一秒,应改说性能还是不错的。另外,使用SQL Profile监视迁移事件,可以看见请求记录非常少,只有几条而已。据说使用SqlBulkCopy可以大大减少数据迁移的时间。

转载于:https://www.cnblogs.com/JusticFu/archive/2006/06/23/433887.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值