- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
我最近发现下面的代码可以有效地运行大量 I/O 绑定(bind)任务:
Implementing a simple ForEachAsync, part 2
我的印象是以下内容是真实的:
Parallel.ForEach
要好得多,因为这项工作不受 CPU 限制。ForEachAsync
将有助于对尽可能多的 IO 任务进行排队(不必将它们放在单独的线程中)。我的问题是,因为 Parallel.ForEach
本质上有它自己的 MaxDegreeOfParallelism
定义,我怎么知道在 IEnumerable
扩展?
例如如果我有 1000 个项目要处理并且需要为每个项目执行基于 IO 的 SQL-Server 数据库调用,我是否会指定 1000 作为 dop?在 Parallel.ForEach
中,它被用作限制器,以防止太多线程旋转起来,这可能会损害性能。但这里似乎是用来划分最小数量的异步任务。我认为至少应该没有最大值(最小值是要处理的项目总数),因为我想对尽可能多的基于 IO 的数据库调用进行排队。
我如何才能知道要查看 DOP 参数的内容?
public static Task ForEachAsync<T>(this IEnumerable<T> source, int dop, Func<T, Task> body)
{
return Task.WhenAll(
from partition in Partitioner.Create(source).GetPartitions(dop)
select Task.Run(async delegate {
using (partition)
while (partition.MoveNext())
await body(partition.Current);
}));
}
最佳答案
Parallel.ForEach intrinsically has its own MaxDegreeOfParallelism
好的,Parallel.ForEach
中内置的启发式方法很容易随着时间的推移产生大量任务(如果您的工作项有 10 毫秒的延迟,您将在一个小时左右后获得数百个任务 -我测量过)。非常糟糕的设计缺陷,不要试图效仿。
当并行运行 IO 时,没有什么可以替代凭经验确定正确的值。这就是 TPL 如此糟糕的原因。例如,执行顺序 IO 的磁盘喜欢 1 的 DOP。执行随机操作的 SSD 基本上喜欢无限大(100?)。
远程网络服务让您无法知道正确的 DOP。您不仅需要测试,还需要请求所有者允许向服务发送垃圾邮件请求,这可能会使服务过载。
would I specify 1000 as the dop?
那么你根本不需要这个工具。只需生成所有任务,然后等待所有任务。但 1000 可能是错误的 DOP,因为它会无益地淹没数据库。
here it seems to be used to partition up the minimum number of async tasks
Parallel.For
的另一个可怕的特性。在低 CPU 机器上,它可能会生成小 任务。糟糕的 API。 不要将它与 IO 一起使用。 (我使用 AsParallel
,它允许您设置精确 DOP,而不是最大 DOP。)
because I want to queue as many IO based calls to the database as possible
这是为什么呢?这不是一个好计划。
顺便说一句,你在这里发布的方法很好,我也用这个。我希望它在框架中。这个确切的方法是每周大约 10 个 SO 问题的答案(“我怎样才能并行异步处理 100000 个项目?”)。
关于c# - 我应将什么指定为 ForEachAsync 扩展方法的 Dop 参数?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/33335602/
我想了解 Ruby 方法 methods() 是如何工作的。 我尝试使用“ruby 方法”在 Google 上搜索,但这不是我需要的。 我也看过 ruby-doc.org,但我没有找到这种方法。
Test 方法 对指定的字符串执行一个正则表达式搜索,并返回一个 Boolean 值指示是否找到匹配的模式。 object.Test(string) 参数 object 必选项。总是一个
Replace 方法 替换在正则表达式查找中找到的文本。 object.Replace(string1, string2) 参数 object 必选项。总是一个 RegExp 对象的名称。
Raise 方法 生成运行时错误 object.Raise(number, source, description, helpfile, helpcontext) 参数 object 应为
Execute 方法 对指定的字符串执行正则表达式搜索。 object.Execute(string) 参数 object 必选项。总是一个 RegExp 对象的名称。 string
Clear 方法 清除 Err 对象的所有属性设置。 object.Clear object 应为 Err 对象的名称。 说明 在错误处理后,使用 Clear 显式地清除 Err 对象。此
CopyFile 方法 将一个或多个文件从某位置复制到另一位置。 object.CopyFile source, destination[, overwrite] 参数 object 必选
Copy 方法 将指定的文件或文件夹从某位置复制到另一位置。 object.Copy destination[, overwrite] 参数 object 必选项。应为 File 或 F
Close 方法 关闭打开的 TextStream 文件。 object.Close object 应为 TextStream 对象的名称。 说明 下面例子举例说明如何使用 Close 方
BuildPath 方法 向现有路径后添加名称。 object.BuildPath(path, name) 参数 object 必选项。应为 FileSystemObject 对象的名称
GetFolder 方法 返回与指定的路径中某文件夹相应的 Folder 对象。 object.GetFolder(folderspec) 参数 object 必选项。应为 FileSy
GetFileName 方法 返回指定路径(不是指定驱动器路径部分)的最后一个文件或文件夹。 object.GetFileName(pathspec) 参数 object 必选项。应为
GetFile 方法 返回与指定路径中某文件相应的 File 对象。 object.GetFile(filespec) 参数 object 必选项。应为 FileSystemObject
GetExtensionName 方法 返回字符串,该字符串包含路径最后一个组成部分的扩展名。 object.GetExtensionName(path) 参数 object 必选项。应
GetDriveName 方法 返回包含指定路径中驱动器名的字符串。 object.GetDriveName(path) 参数 object 必选项。应为 FileSystemObjec
GetDrive 方法 返回与指定的路径中驱动器相对应的 Drive 对象。 object.GetDrive drivespec 参数 object 必选项。应为 FileSystemO
GetBaseName 方法 返回字符串,其中包含文件的基本名 (不带扩展名), 或者提供的路径说明中的文件夹。 object.GetBaseName(path) 参数 object 必
GetAbsolutePathName 方法 从提供的指定路径中返回完整且含义明确的路径。 object.GetAbsolutePathName(pathspec) 参数 object
FolderExists 方法 如果指定的文件夹存在,则返回 True;否则返回 False。 object.FolderExists(folderspec) 参数 object 必选项
FileExists 方法 如果指定的文件存在返回 True;否则返回 False。 object.FileExists(filespec) 参数 object 必选项。应为 FileS
我是一名优秀的程序员,十分优秀!