c++ - 与 C++ unordered_map 的并行性

Question

我有一个类型为 std::unordered_map<std::string, int64_t> sMap 的 unordered_map .这包含许多字符串和与每个字符串相关联的“权重”。我想找到权重最大的 N 个字符串。

如果我想用一个线程来做这件事，我想我可以像这样创建一个成对的优先级队列

std::priority_queue<
    std::pair<std::string, int64_t>,
    std::vector<std::pair<std::string, int64_t>>,
    std::function<bool(std::pair<std::string, int64_t>&,
            std::pair<std::string, int64_t>&)>> prQ(comparePair);

然后遍历整个 unordered_map，将元素插入到 prQ，同时保持长度 N。

我想使用多线程实现同样的效果。我正在考虑分配每个线程处理 unordered_map 的几个元素，以创建一个长度为 N 的本地优先级队列，该队列最后可以合并到一个全局队列中。

我现在面临的问题是我从 unordered_map::begin() 获得的迭代器不适用于 +。运算符(operator)。至少那是我得到的错误: error: no match for ‘operator+’ (operand types are ‘std::unordered_map<std::basic_string<char>, long int>::iterator {aka std::__detail::_Node_iterator<std::pair<const std::b
asic_string<char>, long int>, false, true>}’ and ‘int’)因此，我无法真正指定要由特定线程处理的元素范围。 []运算符将按预期使用 key 而不是偏移量。

基本上，我似乎无法找到一种方法来实现数据并行循环，每个线程只处理几个元素。那么如何使用多线程解决这个问题呢？

编辑:@Brian Vandberg 要求我提供生成我正在谈论的错误的代码的简化示例。

std::unordered_map<std::string, int64_t> sMap;
//Initialize sMap values
int start = 0, end = 2;
for(auto i = sMap.begin() + start; sMap.begin() + end; ++i) {
    std::cout<<i->first<<"\t"<<i->second<<"\n";
}

Answer 1

首先，我不确定我是否会为这个问题使用优先级队列(单线程，或作为特定线程执行的部分)。标准库有 nth_element ，您可以使用它在线性时间内找到第 n 个元素。之后，寻找哪些元素更大也是线性时间。

如果速度有问题，您可能会考虑这个，如果大小有问题，您可能会考虑(nth_element 将有效地强制您创建数据的拷贝)。在此解决方案中，您迭代 map (或 map 的一部分)，push_back 仅将权重转换为 vector，您在其上执行 nth_element .第二阶段，再次遍历 map ，选择权重高的。

---

假设你有一个循环:

std::size_t j = 0;
for(const auto &e: sMap)
{
    if(++j % k != i)
        continue;
    // Rest of code goes here.
}

然后，如果您将它用于 k 中的第 i 个线程，它将在线程之间划分元素。此外，虽然所有线程都在相同的元素上迭代(如果只是为了跳过其中的大部分)，它是并行发生的。

---

每个线程可以为最大的 m 个元素生成它的候选元素，然后使用上面的方法从 km 个候选元素中选择最大的 m 个元素(使用 nth_element)或任何其他方法。

有趣的是，sMap 的大小会在实践中产生任何加速。