- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
我正在调用一个调用数据库的工作方法,然后迭代并产生返回值以进行并行处理。为了防止它破坏数据库,我在那里有一个 Thread.Sleep 来暂停对数据库的执行。但是,这似乎阻止了 Parallel.ForEach 中仍在发生的执行。实现此目的以防止阻塞的最佳方法是什么?
private void ProcessWorkItems()
{
_cancellation = new CancellationTokenSource();
_cancellation.Token.Register(() => WorkItemRepository.ResetAbandonedWorkItems());
Task.Factory.StartNew(() =>
Parallel.ForEach(GetWorkItems().AsParallel().WithDegreeOfParallelism(10), workItem =>
{
var x = ItemFactory(workItem);
x.doWork();
}), _cancellation.Token);
}
private IEnumerable<IAnalysisServiceWorkItem> GetWorkItems()
{
while (!_cancellation.IsCancellationRequested)
{
var workItems = WorkItemRepository.GetItemList(); //database call
workItems.ForEach(item =>
{
item.QueueWorkItem(WorkItemRepository);
});
foreach (var item in workItems)
{
yield return item;
}
if (workItems.Count == 0)
{
Thread.Sleep(30000); //sleep this thread for 30 seconds if no work items.
}
}
yield break;
}
编辑:我将其更改为包含答案,但它仍然无法正常工作。我将 .AsParallel().WithDegreeOfParallelism(10) 添加到 GetWorkItems() 调用中。当我认为 Parallel 应该继续执行时,即使基本线程正在休眠,我的期望是否不正确?
例子:我有 15 个项目,它迭代并抓取 10 个项目并启动它们。当每个完成时,它会从 GetWorkItems 请求另一个,直到它尝试请求第 16 个项目。那时它应该停止尝试获取更多项目,但应该继续处理项目 11-15 直到完成。这就是并行工作的方式吗?因为它目前没有这样做。它当前正在做的是当它完成 6 时,它锁定仍在 Parallel.ForEach 中运行的后续 10。
最佳答案
我建议您创建一个 BlockingCollection (一个队列)工作项,以及一个每 30 秒调用一次数据库以填充它的计时器。像这样的东西:
BlockingCollection<WorkItem> WorkItems = new BlockingCollection<WorkItem>();
初始化时:
System.Threading.Timer WorkItemTimer = new Timer((s) =>
{
var items = WorkItemRepository.GetItemList(); //database call
foreach (var item in items)
{
WorkItems.Add(item);
}
}, null, 30000, 30000);
这将每 30 秒查询一次数据库中的项目。
要安排要处理的工作项,您有许多不同的解决方案。最接近你所拥有的是这样的:
WorkItem item;
while (WorkItems.TryTake(out item, Timeout.Infinite, _cancellation))
{
Task.Factory.StartNew((s) =>
{
var myItem = (WorkItem)s;
// process here
}, item);
}
这消除了任何线程中的阻塞,并让 TPL 决定如何最好地分配并行任务。
编辑:
实际上,更接近你所拥有的是:
foreach (var item in WorkItems.GetConsumingEnumerable(_cancellation))
{
// start task to process item
}
您可以使用:
Parallel.Foreach(WorkItems.GetConsumingEnumerable(_cancellation).AsParallel ...
我不知道这是否有效或效果如何。也许值得尝试一下 。 . .
编辑结束
一般来说,我的建议是将其视为生产者/消费者应用程序,生产者是定期查询数据库以获取新项目的线程。我的示例每 N(本例中为 30)秒查询一次数据库,如果平均而言,您可以每 30 秒清空一次工作队列,那么该示例将运行良好。从项目发布到数据库到您获得结果,平均延迟不到一分钟。
您可以降低轮询频率(从而降低延迟),但这会导致更多的数据库流量。
你也可以用它变得更漂亮。例如,如果您在 30 秒后轮询数据库并获得大量项目,那么您可能很快就会获得更多,并且您会希望在 15 秒(或更短)后再次轮询。相反,如果您在 30 秒后轮询数据库但没有得到任何结果,那么您可能需要等待更长的时间才能再次轮询。
您可以使用一次性计时器设置这种自适应轮询。也就是说,您在创建计时器时将最后一个参数指定为 -1,这会导致它仅触发一次。您的计时器回调计算出在下一次轮询之前等待多长时间,并调用 Timer.Change
以使用新值初始化计时器。
关于c# - Thread.Sleep 阻塞并行执行任务,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/7561196/
有没有办法同时运行 2 个不同的代码块。我一直在研究 R 中的并行包,它们似乎都基于在循环中运行相同的函数。我正在寻找一种同时运行不同函数的方法(循环的 1 次迭代)。例如,我想在某个数据对象上创建一
无论如何增加 Parallel.For 启动后的循环次数?示例如下: var start = 0; var end = 5; Parallel.For(start, end, i => { C
我是 Golang 的新手,正在尝试了解并发和并行。我阅读了下面提到的关于并发和并行的文章。我执行了相同的程序。但没有得到相同的(混合字母和字符)输出。首先获取所有字母,然后获取字符。似乎并发不工作,
我正在寻找同时迭代 R 中两个或多个字符向量/列表的方法,例如。有没有办法做这样的事情: foo <- c('a','c','d') bar <- c('aa','cc','dd') for(i in
我对 Raku 很陌生,我对函数式方法有疑问,尤其是 reduce。 我最初有这样的方法: sub standardab{ my $mittel = mittel(@_); my $foo =
我最近花了很多时间来学习实时音频处理的细节,我发现的大多数库/工具都是c / c++代码或脚本/图形语言的形式,并在其中编译了c / c++代码。引擎盖。 使用基于回调的API,与GUI或App中的其
我正在使用 JMeter 进行图像负载测试。我有一个图像名称数组并遍历该数组,我通过 HTTP 请求获取所有图像。 -> loop_over_image - for loop controller
我整个晚上都在困惑这个问题...... makeflags = ['--prefix=/usr','--libdir=/usr/lib'] rootdir='/tmp/project' ps = se
我正在尝试提高计算图像平均值的方法的性能。 为此,我使用了两个 For 语句来迭代所有图像,因此我尝试使用一个 Parallel For 来改进它,但结果并不相同。 我做错了吗?或者是什么导致了差异?
假设您有一个并行 for 循环实现,例如ConcRT parallel_for,将所有工作放在一个 for 循环体内总是最好的吗? 举个例子: for(size_t i = 0; i < size()
我想并行运行一部分代码。目前我正在使用 Parallel.For 如何让10、20或40个线程同时运行 我当前的代码是: Parallel.For(1, total, (ii) =>
我使用 PAY API 进行了 PayPal 自适应并行支付,其中无论用户(买家)购买什么,都假设用户购买了总计 100 美元的商品。在我的自适应并行支付中,有 2 个接收方:Receiver1 和
我正在考虑让玩家加入游戏的高效算法。由于会有大量玩家,因此算法应该是异步的(即可扩展到集群中任意数量的机器)。有细节:想象有一个无向图(每个节点都是一个玩家)。玩家之间的每条边意味着玩家可以参加同一场
我有一个全局变量 volatile i = 0; 和两个线程。每个都执行以下操作: i++; System.out.print(i); 我收到以下组合。 12、21 和 22。 我理解为什么我没有得到
我有以下称为 pgain 的方法,它调用我试图并行化的方法 dist: /***************************************************************
我有一个 ruby 脚本读取一个巨大的表(约 2000 万行),进行一些处理并将其提供给 Solr 用于索引目的。这一直是我们流程中的一大瓶颈。我打算在这里加快速度,我想实现某种并行性。我对 Ru
我正在研究 Golang 并遇到一个问题,我已经研究了几天,我似乎无法理解 go routines 的概念以及它们的使用方式。 基本上我是在尝试生成数百万条随机记录。我有生成随机数据的函数,并将创建一
我希望 for 循环使用 go 例程并行。我尝试使用 channel ,但没有用。我的主要问题是,我想在继续之前等待所有迭代完成。这就是为什么在它不起作用之前简单地编写 go 的原因。我尝试使用 ch
我正在使用 import Control.Concurrent.ParallelIO.Global main = parallel_ (map processI [1..(sdNumber runPa
我正在尝试通过 makePSOCKcluster 连接到另一台计算机: library(parallel) cl ... doTryCatch -> recvData -> makeSOCKm
我是一名优秀的程序员,十分优秀!