2016-08-11 39 views
0

我使用SqlBulkCopy从CSV导入大约66k行。将CSV导入到DataTable中,然后传递到下面的以下方法。SqlBulkCopy创建比DataTable更多的行

似乎无限期地将相同的行复制到数据库中(或者一旦到达结尾就重置)。调试运行了大约30分钟,并创建了近5万个记录,每次复制DataTable中的每一行大约5次。

我可以确认DataTable中的行数是正确的,所以我必须缺少一些东西,任何想法?

注意:我添加了s.BatchSize,希望它只会导入不是这种情况的数量。

/* 
    * StoreImportedData() 
    * This method will store all of the imported data from the datatable to the SQL server database. 
    * 
    * 
    */ 

    private Boolean StoreImportedData(DataTable csvFileData) 
    { 
     try 
     { 
      using (SqlConnection dbConnection = new SqlConnection(ConfigurationManager.ConnectionStrings["ConnectionString"].ConnectionString)) 
      { 
       dbConnection.Open(); 
       using (SqlBulkCopy s = new SqlBulkCopy(dbConnection)) 
       { 
        s.DestinationTableName = "Staging"; 
        // Amount of rows to issue in the batch: (currently value is around 60k) 
        s.BatchSize = csvFileData.Rows.Count; 
        s.ColumnMappings.Add("remark", "ReportDate"); 
        s.ColumnMappings.Add("ipAddress", "IPAddress"); 
        s.ColumnMappings.Add("hostName", "HostName"); 
        s.ColumnMappings.Add("macAddress", "MacAddress"); 
        s.ColumnMappings.Add("deviceName", "PrinterName"); 
        s.ColumnMappings.Add("comment", "CenterCode"); 
        s.ColumnMappings.Add("userName", "CustomerCode"); 
        s.ColumnMappings.Add("userDisplayName", "CustomerName"); 
        s.ColumnMappings.Add("printerBlackTotal", "TPrintBw"); 
        s.ColumnMappings.Add("printerColorTotal", "TPrintCol"); 
        s.ColumnMappings.Add("copyBlackTotal", "TCopyBw"); 
        s.ColumnMappings.Add("copyColorTotal", "TCopyCol"); 
        s.ColumnMappings.Add("scanTotal", "TScan"); 
        s.ColumnMappings.Add("faxBlackTotal", "TFaxBw"); 
        s.WriteToServer(csvFileData); 
       } 
      } 
     } 
     catch (Exception e) 
     { 
      throw new Exception("An error has occured with the import SQL operation: " + e.Message); 
     } 
     return true; 
    } 
} 
+0

你对临时表的唯一索引或主键? –

+0

是的,有一个自动增加的主键(Id) – mauzilla

+0

我的猜测是在表上添加一个唯一索引以防止多次插入,主键是自动增量不会有帮助。 –

回答

0

试试这个:

s.WriteToServer(csvFileData.CreateDataReader()); 
+0

得到一个异常:输入数组比该表中的列数多。 – mauzilla

+0

这意味着你有比上面提到的更多的列。 – jonju

+0

这是正确的,我认为映射会忽略剩余的行。有没有办法让我将它设置为仅与映射中设置的行一起使用? – mauzilla