c# - 更新数千条记录的最有效方法是什么-6ren

c# - 更新数千条记录的最有效方法是什么

转载作者：太空狗更新时间：2023-10-29 23:38:26

28

4

我们有一个 C# 应用程序，它从文本文件中解析数据。然后，我们必须根据文本文件中的信息更新 sql 数据库中的记录。将数据从应用程序传递到 SQL Server 的最有效方法是什么？

我们目前使用分隔字符串，然后在存储过程中循环遍历该字符串以更新记录。我也在使用 TVP(表值参数)进行测试。还有其他选择吗？

我们的文件包含数千条记录，我们想要一个花费最少时间的解决方案。

最佳答案

请不要使用 DataTable因为那只是在浪费 CPU 和内存而没有任何好处(除了可能熟悉之外)。我在回答以下问题时详细介绍了一种非常快速和灵活的方法，这与这个非常相似:

How can I insert 10 million records in the shortest time possible?

该答案中显示的示例仅适用于 INSERT，但可以轻松调整以包含 UPDATE。此外，它一次性上传所有行，但也可以很容易地调整为 X 条记录设置计数器并在传入许多记录后退出 IEnumerable 方法，并且一旦没有更多记录，然后关闭文件。这将需要将文件指针(即流)存储在静态变量中以继续传递给 IEnumerable 方法，以便它可以在下一次前进并在最近的位置拾取。我在以下答案中显示了此方法的一个工作示例，尽管它使用的是 SqlDataReader作为输入，但技术是相同的，只需很少的修改:

How to split one big table that has 100 million data to multiple tables?

从某些角度来看，50k 条记录甚至还算不上“庞大”。我一直在使用我在此处显示的方法在 400 万行文件上上传/合并/同步数据，并且命中了具有 1000 万(或更多)行的多个表。

不要做的事情:

使用 DataTable : 正如我所说，如果您只是为了与 TVP 一起使用而填充它，那是在浪费 CPU、内存和时间。
同时进行 1 次更新(如问题评论中所建议):这太疯狂了。关系数据库引擎经过大量调整，可以最有效地处理集合，而不是单例操作。 50k 插入不可能比 500 插入 100 行效率更高。单独执行它只会保证表上有更多争用，即使只是行锁(它是 100k 锁 + 解锁操作)。这可能比升级到表锁的单个 50k 行事务更快(如 Aaron 所述)，但这就是为什么要分批进行，只要小并不意味着 1 行；)。
任意设置批量大小。保持在 5000 行以下有助于减少锁升级的机会，但不要只选择 200 行。尝试多种批处理大小(100、200、500、700、1000)并尝试每一种大小几次。您将看到什么最适合您的系统。只需确保批量大小可通过 app.config 文件或其他方式(数据库中的表、注册表设置等)进行配置，以便无需重新部署代码即可进行更改.
SSIS(功能强大，但非常笨重且调试起来不好玩)

可以工作的东西，但不如正确完成的 TVP 灵活(即传入一个返回 IEnumerable<SqlDataRecord> 的方法)。这些没问题，但为什么将记录转储到临时表中只是为了将它们解析到目标中，而您可以全部内联完成？

BCP/OPENROWSET(BULK...)/BULK INSERT
.NET 的 SqlBulkCopy

关于c# - 更新数千条记录的最有效方法是什么，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/28332158/

28

4

0

文章推荐： c# - Umbraco - 计划发布问题 - v7.2.1

文章推荐： c++ - 从 C/C++ 库中解压缩可执行文件

文章推荐： c# - 如何将焦点设置在自定义控件中的控件上？

文章推荐： c++ - 在Lua中检测过时的C++引用

Ruby 方法() 方法
我想了解 Ruby 方法 methods() 是如何工作的。我尝试使用“ruby 方法”在 Google 上搜索，但这不是我需要的。我也看过 ruby-doc.org，但我没有找到这种方法。
VBS教程：方法-Test 方法
Test 方法对指定的字符串执行一个正则表达式搜索，并返回一个 Boolean 值指示是否找到匹配的模式。 object.Test(string) 参数 object 必选项。总是一个
VBS教程：方法-Replace 方法
Replace 方法替换在正则表达式查找中找到的文本。 object.Replace(string1, string2) 参数 object 必选项。总是一个 RegExp 对象的名称。
VBS教程：方法-Raise 方法
Raise 方法生成运行时错误 object.Raise(number, source, description, helpfile, helpcontext) 参数 object 应为
VBS教程：方法-Execute 方法
Execute 方法对指定的字符串执行正则表达式搜索。 object.Execute(string) 参数 object 必选项。总是一个 RegExp 对象的名称。 string
VBS教程：方法-Clear 方法
Clear 方法清除 Err 对象的所有属性设置。 object.Clear object 应为 Err 对象的名称。说明在错误处理后，使用 Clear 显式地清除 Err 对象。此
VBS教程：方法-CopyFile 方法
CopyFile 方法将一个或多个文件从某位置复制到另一位置。 object.CopyFile source, destination[, overwrite] 参数 object 必选
VBS教程：方法-Copy 方法
Copy 方法将指定的文件或文件夹从某位置复制到另一位置。 object.Copy destination[, overwrite] 参数 object 必选项。应为 File 或 F
VBS教程：方法-Close 方法
Close 方法关闭打开的 TextStream 文件。 object.Close object 应为 TextStream 对象的名称。说明下面例子举例说明如何使用 Close 方
VBS教程：方法-BuildPath 方法
BuildPath 方法向现有路径后添加名称。 object.BuildPath(path, name) 参数 object 必选项。应为 FileSystemObject 对象的名称
VBS教程：方法-GetFolder 方法
GetFolder 方法返回与指定的路径中某文件夹相应的 Folder 对象。 object.GetFolder(folderspec) 参数 object 必选项。应为 FileSy
VBS教程：方法-GetFileName 方法
GetFileName 方法返回指定路径（不是指定驱动器路径部分）的最后一个文件或文件夹。 object.GetFileName(pathspec) 参数 object 必选项。应为
VBS教程：方法-GetFile 方法
GetFile 方法返回与指定路径中某文件相应的 File 对象。 object.GetFile(filespec) 参数 object 必选项。应为 FileSystemObject
VBS教程：方法-GetExtensionName 方法
GetExtensionName 方法返回字符串，该字符串包含路径最后一个组成部分的扩展名。 object.GetExtensionName(path) 参数 object 必选项。应
VBS教程：方法-GetDriveName 方法
GetDriveName 方法返回包含指定路径中驱动器名的字符串。 object.GetDriveName(path) 参数 object 必选项。应为 FileSystemObjec
VBS教程：方法-GetDrive 方法
GetDrive 方法返回与指定的路径中驱动器相对应的 Drive 对象。 object.GetDrive drivespec 参数 object 必选项。应为 FileSystemO
VBS教程：方法-GetBaseName 方法
GetBaseName 方法返回字符串，其中包含文件的基本名 (不带扩展名), 或者提供的路径说明中的文件夹。 object.GetBaseName(path) 参数 object 必
VBS教程：方法-GetAbsolutePathName 方法
GetAbsolutePathName 方法从提供的指定路径中返回完整且含义明确的路径。 object.GetAbsolutePathName(pathspec) 参数 object
VBS教程：方法-FolderExists 方法
FolderExists 方法如果指定的文件夹存在，则返回 True；否则返回 False。 object.FolderExists(folderspec) 参数 object 必选项
VBS教程：方法-FileExists 方法
FileExists 方法如果指定的文件存在返回 True；否则返回 False。 object.FileExists(filespec) 参数 object 必选项。应为 FileS

首页

博学

6Ren·AI

商城

c# - 更新数千条记录的最有效方法是什么