将Excel数据快速大批量导入数据库的代码

介绍两种途径将数据从EXCEL中导入到SQL SERVER。

一、        在程序中,用ADO.NET。代码 如下:

 

//连接串

string strConn = "Provider=Microsoft.Jet.OLEDB.4.0;Extended Properties=Excel 8.0;Data Source=" + [EXCEL文件,含路径] + ";";

OleDbConnection conn = new OleDbConnection(strConn);

conn.Open();

 

DataTable dtSchema = conn.GetOleDbSchemaTable(OleDbSchemaGuid.Tables,new object[] {null, null, null, "TABLE"});

DataSet ds = new DataSet();

//一个EXCEL文件可能有多个工作表,遍历之

foreach( DataRow dr in dtSchema.Rows )

{

   string table = dr["TABLE_NAME"].ToString();

   string strExcel = "SELECT * FROM [" + table + "]";

   ds.Tables.Add(table);

 

   OleDbDataAdapter myCommand = new OleDbDataAdapter(strExcel,conn);

   myCommand.Fill(ds,table);

}

 

conn.Close();

 

这样,读取出来的数据就藏在DataSet里了。

采用这种方式,数据库 所在机器不必装有EXCEL。

 

二、        在查询分析器里,直接写SQL语句:

如果是导入数据到现有表,则采用

INSERT INTO 表 SELECT * FROM OPENROWSET('MICROSOFT.JET.OLEDB.4.0'

,'Excel 5.0;HDR=YES;DATABASE=c:/test.xls',sheet1$)

的形式

如果是导入数据并新增表,则采用

SELECT * INTO 表 FROM OPENROWSET('MICROSOFT.JET.OLEDB.4.0'

,'Excel 5.0;HDR=YES;DATABASE=c:/test.xls',sheet1$)

的形式。

 

以上语句是将EXCEL文件里SHEET1工作表中所有的列都读进来,如果只想导部分列,可以

INSERT INTO 表(a1,a2,a3) SELECT a1,a2,a3 FROM OPENROWSET('MICROSOFT.JET.OLEDB.4.0'

,'Excel 5.0;HDR=YES;DATABASE=c:/test.xls',sheet1$)

 

其实可以将OPENROWSET('MICROSOFT.JET.OLEDB.4.0'

,'Excel 5.0;HDR=YES;DATABASE=c:/test.xls',sheet1$)当成一个表,例如我就写过这样一个句子:

 

INSERT INTO eval_channel_employee(channel,employee_id)

SELECT CASE a.渠道 WHEN 'DIY' THEN 1 WHEN 'RDC' THEN 0 WHEN 'KCM' THEN 2 ELSE 3 END

,b.id FROM

OPENROWSET('MICROSOFT.JET.OLEDB.4.0'

,'Excel 5.0;HDR=YES;DATABASE=c:/temp/name.xls',sheet1$) AS a,pers_employee b

WHERE a.员工编码=b.code

 

不管是哪种方式,哪种途径,系统都会默认将第一行上的内容作为字段名。

在做项目时,经常遇到要将Excel中的大量数据导入到Access数据库中,原来的做法是读一条写一条,若导入上万条的数据需要几分仲时间,速度很慢。有没有最快的方法呢?经本人研究、反复的实验,终于写出了最快速的批量导入大批量数据的方法,上万条数据只需几秒钟就可全部导入,够快了吧。代码公布出来与大家分享。

Sql代码
  1. Set  conn = Server.CreateObject( "adodb.Connection" )   
  2. connstr =  "Provider=Microsoft.Jet.OLEDB.4.0; Data source="  & Server.MapPath( "test.mdb" )   
  3. conn. Open  connstr   
  4. sql =  "insert into userinfo select userName,userAccount,userStatus from [userinfo$] in '"  & Server.MapPath( "hbwlUserInfo.xls" )   
  5.  &  "' 'Excel 8.0;' where userAccount is not null"   
  6. conn. Execute  (sql) 

      大部分人都知道用oledb来读取数据到dataset,但是读取之后怎么处理dataset就千奇百怪了。很多人通过循环来拼接sql,这样做不但容易出错而且效率低下,System.Data.SqlClient.SqlBulkCopy 对于新手来说还是比较陌生的,这个就是传说中效率极高的bcp,6万多数据从excel导入到sql只需要4.5秒。
    using  System;
    using  System.Data;
    using  System.Windows.Forms;
    using  System.Data.OleDb;
    namespace  WindowsApplication2
    {
        
    public   partial   class  Form1 : Form
        
    {
            
    public  Form1()
            
    {
                InitializeComponent();
            }


            
    private   void  button1_Click( object  sender, EventArgs e)
            
    {
                
    // 测试,将excel中的sheet1导入到sqlserver中
                 string  connString  =   " server=localhost;uid=sa;pwd=sqlgis;database=master " ;
                System.Windows.Forms.OpenFileDialog fd 
    =   new  OpenFileDialog();
                
    if  (fd.ShowDialog()  ==  DialogResult.OK)
                
    {
                    TransferData(fd.FileName, 
    " sheet1 " , connString);
                }

            }


            
    public   void  TransferData( string  excelFile,  string  sheetName,  string  connectionString)
            
    {
                DataSet ds 
    =   new  DataSet();
                
    try
                
    {
                    
    // 获取全部数据
                     string  strConn  =   " Provider=Microsoft.Jet.OLEDB.4.0; "   +   " Data Source= "   +  excelFile  +   " ; "   +   " Extended Properties=Excel 8.0; " ;
                    OleDbConnection conn 
    =   new  OleDbConnection(strConn);
                    conn.Open();
                    
    string  strExcel  =   "" ;
                    OleDbDataAdapter myCommand 
    =   null ;
                    strExcel 
    =   string .Format( " select * from [{0}$] " , sheetName);
                    myCommand 
    =   new  OleDbDataAdapter(strExcel, strConn);
                    myCommand.Fill(ds, sheetName);

                    
    // 如果目标表不存在则创建
                     string  strSql  =   string .Format( " if object_id('{0}') is null create table {0}( " , sheetName);
                    
    foreach  (System.Data.DataColumn c  in  ds.Tables[ 0 ].Columns)
                    
    {
                        strSql 
    +=   string .Format( " [{0}] varchar(255), " , c.ColumnName);
                    }

                    strSql 
    =  strSql.Trim( & apos;, & apos;)  +   " ) " ;

                    
    using  (System.Data.SqlClient.SqlConnection sqlconn  =   new  System.Data.SqlClient.SqlConnection(connectionString))
                    
    {
                        sqlconn.Open();
                        System.Data.SqlClient.SqlCommand command 
    =  sqlconn.CreateCommand();
                        command.CommandText 
    =  strSql;
                        command.ExecuteNonQuery();
                        sqlconn.Close();
                    }

                    
    // 用bcp导入数据
                     using  (System.Data.SqlClient.SqlBulkCopy bcp  =   new  System.Data.SqlClient.SqlBulkCopy(connectionString))
                    
    {
                        bcp.SqlRowsCopied 
    +=   new  System.Data.SqlClient.SqlRowsCopiedEventHandler(bcp_SqlRowsCopied);
                        bcp.BatchSize 
    =   100 ; // 每次传输的行数
                        bcp.NotifyAfter  =   100 ; // 进度提示的行数
                        bcp.DestinationTableName  =  sheetName; // 目标表
                        bcp.WriteToServer(ds.Tables[ 0 ]);
                    }

                }

                
    catch  (Exception ex)
                
    {
                    System.Windows.Forms.MessageBox.Show(ex.Message);
                }


            }


            
    // 进度显示
             void  bcp_SqlRowsCopied( object  sender, System.Data.SqlClient.SqlRowsCopiedEventArgs e)
            
    {
                
    this .Text  =  e.RowsCopied.ToString();
                
    this .Update();
            }



        }

    }
     

     

      上面的TransferData基本可以直接使用,如果要考虑周全的话,可以用oledb来获取excel的表结构,并且加入ColumnMappings来设置对照字段,这样效果就完全可以做到和sqlserver的dts相同的效果了。

 
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值