R:如何在 foreach %dopar% 中拆分数据帧

Question

这是一个非常简单的例子。

df = c("already ","miss you","haters","she's cool")
df = data.frame(df)

library(doParallel)
cl = makeCluster(4)
registerDoParallel(cl)    
foreach(i = df[1:4,1], .combine = rbind, .packages='tm')  %dopar% classification(i)
stopCluster(cl)

在实际情况下，我有 n=400000 行的数据框。
我不知道如何一步发送每个集群的 nrow/ncluster 数据， i = ?

我尝试使用库(itertools)中的 isplitRows 没有成功。

Answer 1

您应该尝试使用索引来创建数据的子集。

foreach(i = nrow(df), .combine = rbind, .packages='tm')  %dopar% {
  tmp <- df[i, ]
  classification(tmp)
}

这将需要 data.frame 的新行每次迭代。

此外，您应该注意到 foreach 循环的结果将写入一个新变量。因此，您应该像这样分配它:

res <- foreach(i = 1:10, .combine = c, ....) %dopar% {
  # things you want to do
  x <- someFancyFunction()

  # the last value will be returned and combined by the .combine function
  x 
}