程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 編程語言 >> .NET網頁編程 >> .NET實例教程 >> .net2.0中使用SqlBulkCopy進行大批量數據遷移

.net2.0中使用SqlBulkCopy進行大批量數據遷移

編輯:.NET實例教程


在.Net1.1中無論是對於批量插入整個DataTable中的所有數據到數據庫中,還是進行不同數據源之間的遷移,都不是很方便。而在.Net2.0中,SQLClIEnt命名空間下增加了幾個新類幫助我們通過DataTable或DataReader批量遷移數據。數據源可以來自關系數據庫或者XML文件,甚至WebService返回結果。其中最重要的一個類就是SqlBulkCopy類,使用它可以很方便的幫助我們把數據源的數據遷移到目標數據庫中。
下面我們先通過一個簡單的例子說明這個類的使用:

 

DateTime startTime;
    protected void Button1_Click(object sender, EventArgs e)
    {
        startTime = DateTime.Now;
        string SrcConString;
        string DesConString;
        SqlConnection SrcCon = new SqlConnection();
        SqlConnection DesCon = new SqlConnection();
        SqlCommand SrcCom = new SqlCommand();
        SqlDataAdapter SrcAdapter = new SqlDataAdapter();
        DataTable dt = new DataTable();
        SrcConString =
        ConfigurationManager.ConnectionStrings["SrcDBConnectionString"].ConnectionString;
        DesConString =
        ConfigurationManager.ConnectionStrings["DesDBConnectionString"].ConnectionString;
        SrcCon.ConnectionString = SrcConString;
        SrcCom.Connection = SrcCon;
        SrcCom.CommandText = " SELECT * From [SrcTable]";
        SrcCom.CommandType = CommandType.Text;
        SrcCom.Connection.Open();
        SrcAdapter.SelectCommand = SrcCom;
        SrcAdapter.Fill(dt);
        SqlBulkCopy DesBulkOp;
        DesBulkOp = new SqlBulkCopy(DesConString,
        SqlBulkCopyOptions.UseInternalTransaction);
        DesBulkOp.BulkCopyTimeout = 500000000;
        DesBulkOp.SqlRowsCopIEd +=
        new SqlRowsCopiedEventHandler(OnRowsCopIEd);
        DesBulkOp.NotifyAfter = dt.Rows.Count;
        try
        {
            DesBulkOp.DestinationTableName = "SrcTable";
            DesBulkOp.WriteToServer(dt);
        }
        catch (Exception ex)
 &nb
sp;      {
            lblResult.Text = ex.Message;
        }
        finally
        {
            SrcCon.Close();
            DesCon.Close();
        }
    }

    private void OnRowsCopied(object sender, SqlRowsCopIEdEventArgs args)
    {
        lblCounter.Text += args.RowsCopied.ToString() + " rows are copIEd<Br>";
        TimeSpan copyTime = DateTime.Now - startTime;
        lblCounter.Text += "Copy Time:" + copyTime.Seconds.ToString() + "." + copyTime.Milliseconds.ToString() + " seconds";
    }
接著具體分析這幾行代碼:
SqlBulkCopy DesBulkOp;
DesBulkOp = new SqlBulkCopy(DesConString, SqlBulkCopyOptions.UseInternalTransaction);先生成SqlBulkCopy 實例,構造函數指定了目標數據庫,使用SqlBulkCopyOptions.UseInternalTransaction是指遷移動作指定在一個Transaction當中,如果數據遷移中產生錯誤或異常將發生回滾。其他選項請參考MSDN。

DesBulkOp.BulkCopyTimeout = 500000000;
指定操作完成的Timeout時間

        DesBulkOp.SqlRowsCopied += new SqlRowsCopiedEventHandler(OnRowsCopIEd);
        DesBulkOp.NotifyAfter = dt.Rows.Count;
        try
        {
            DesBulkOp.DestinationTableName = "SrcTable";
            DesBulkOp.WriteToServer(dt);
        }
NotifyAfter屬性指定通知通知事件前處理的數據行數,在這裡指定為表的行數,並添加SqlRowsCopIEd事件輸出整個遷移過程的時間。WriteToServer方法就是將數據源拷備到目標數據庫。在使用WriteToServer方法之前必須先指定DestinationTableName屬性,也就是目標數據庫的表名,

我們還可以自己定義一個Transaction,例如:

SqlTransaction Transaction;
Transaction =
SrcCom.Connection.BeginTransaction();
SqlBulkCopy DesBulkOp;
DesBulkOp = new SqlBulkCopy(new SqlConnection(DesConString),
SqlBulkCopyOptions.Default,
Transaction);

try
{    
//..
}
catch{}    
finally
{
Transaction.Commit();
}
另外還有一個SqlBulkCopyColumnMapping類,可以讓數據源字段映射到目標數據中命名不同的字段上。也就是說如果目標數據和源數據的列名不同時,可以用這個類進行映射:
SqlBulkCopyColumnMapping ColMap = new SqlBulkCopyColumnMapping("SrcCol", "DesCol");
DesBulkOp.ColumnMappings.Add(ColMap);
或者可以直接添加映射:
DesBulkOp.ColumnMappings.Add("SrcCol", "DesCol");
性能問題:
我使用上面的例子測試,遷移了2萬條左右的記錄,花的時間不到一秒,應改說性能還是不錯的。另外,使用SQL Profile監視遷移事件,可以看見請求記錄非常少,只有幾條而已。據說使用SqlBulkCopy可以大大減少數據遷移的時間。

http://justicfu.cnblogs.com/archive/2006/06/23/433887.Html


  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved