1
最近,我的任务是创建一个自动ETL过程,通过读取主映射文件,将数据抽入基于平面文件名的表中。我决定去用SqlBulkCopy,一切似乎都很好。 IDataReader接口被实现为读取平面文件,为一对一数据映射提供的SQL Server的元数据列数,一切正常,直到我运行带空字符串的文件。 SqlBulkCopy抛出一个异常,声明“数据源的String类型的给定值不能转换为指定目标列的int类型。”故事结尾,它甚至不关心此列的数据库类型是否为INT NULL。我知道我可以进一步解释元数据,为给定的列提取数据类型,根据提取的信息构建数据集,从平面文件中重新构建数据,并为我自己提供一个很好的强类型解决方案,可以工作,但是我一个感觉像他的幸福的懒惰家伙被微软恶毒割裂,或者如果有人知道我的突然问题的解决方案,我自己的无能。感谢您的时间。SqlBulkCopy拒绝将String.Empty转换为INT NULL
List<String> fileNames;
DateTime startJobTime = DateTime.Now;
Console.WriteLine("---------------------------------------------");
Console.WriteLine("Start Time: " + startJobTime);
Console.WriteLine("---------------------------------------------");
using (SqlConnection sqlCon = new SqlConnection(sqlConnection))
{
try
{
sqlCon.Open();
sqlCon.ChangeDatabase(edwDBName);
// Get service information for staging job
UnivStage us = GetStagingJobInfo(jobName, sqlCon);
us.StartJobTime = startJobTime;
// Get a list of file names
fileNames = GetFileList(us, args);
if (fileNames.Count > 0)
{
// Truncate Staging Table
TruncateStagingTable(us, sqlCon);
// Close and dispose of sqlCon2 connection
sqlCon.Close();
Console.WriteLine("Processing files: ");
foreach (String fileName in fileNames)
Console.WriteLine(fileName);
Console.WriteLine();
}
else
{
Console.WriteLine("No files to process.");
Environment.Exit(0);
}
// Re-open Sql Connection
sqlCon.Open();
sqlCon.ChangeDatabase(stagingDBName);
foreach (String filePath in fileNames)
{
using (SqlTransaction sqlTran = sqlCon.BeginTransaction())
{
using (FlatFileReader ffReader = new FlatFileReader(filePath, us.Delimiter))
{
using (SqlBulkCopy sqlBulkCopy =
new SqlBulkCopy(sqlCon, SqlBulkCopyOptions.Default, sqlTran))
{
SqlConnection sqlCon2 = new SqlConnection(sqlConnection);
SetColumnList(sqlCon2, us, sqlBulkCopy);
sqlBulkCopy.BatchSize = 1000;
sqlBulkCopy.DestinationTableName =
us.StagingSchemaName + "." + us.StagingTableName;
sqlBulkCopy.WriteToServer(ffReader);
sqlTran.Commit();
sqlCon2.Close();
}
}
}
}
sqlCon.ChangeDatabase(edwDBName);
sqlCon.Close();
sqlCon.Open();
SetRowCount(us, sqlCon);
sqlCon.Close();
us.EndJobTime = DateTime.Now;
sqlCon.Open();
LogStagingProcess(us, sqlCon);
sqlCon.Close();
Console.WriteLine(us.ProcessedRowCount + " rows inserted.");
Console.WriteLine("---------------------------------------------");
Console.WriteLine("Success! End Time: " + us.EndJobTime);
Console.WriteLine("---------------------------------------------");
Console.ReadLine();
}
catch (SqlException e)
{
RenderExceptionMessagesAndExit(e,
"Exception have occured during an attempt to utilize SqlBulkCopy\n");
}
}
谢谢你的回应。恐怕我不能因为自己的束缚而陷入困境。 SqlBulkCopy使用的IDataReader接口只能传递字符串数组。 – 2009-10-24 19:44:09