multithreading - 您使用哪些并行编程 API？

Question

关闭。这个问题是opinion-based .它目前不接受答案。












想改善这个问题吗？更新问题，以便可以通过 editing this post 用事实和引文回答问题.

4年前关闭。




Improve this question




考虑到当今多核和多处理硬件的巨大重要性，试图了解人们目前实际上是如何编写并行代码的。对我来说，占主导地位的范式似乎是 pthreads(POSIX 线程)，它在 Linux 上是原生的，在 Windows 上可用。 HPC 人员倾向于使用 OpenMP 或 MPI，但在 StackOverflow 上这些似乎并不多。或者您是否依赖 Java 线程、Windows 线程 API 等而不是可移植标准？在您看来，进行并行编程的推荐方法是什么？

或者你在使用更奇特的东西，比如 Erlang、CUDA、RapidMind、CodePlay、Oz，甚至是亲爱的老 Occam？

说明:我正在寻找非常便携且适用于各种主机架构上的 Linux、各种 unix 等平台的解决方案。 Windows 是一个很好支持的罕见案例。所以 C# 和 .net 在这里真的太狭隘了，CLR 是一项很酷的技术，但他们能否请他们为 Linux 主机发布它，以便它像 JVM、Python、Erlang 或任何其他可移植语言一样流行。

C++ 或基于 JVM:可能是 C++，因为 JVM 倾向于隐藏性能。

MPI:我同意即使是 HPC 人员也认为它是一个难以使用的工具——但对于在 128000 个处理器上运行，它是解决 map/reduce 不适用的问题的唯一可扩展解决方案。不过，消息传递非常优雅，因为它是唯一一种似乎可以很好地扩展到本地内存/AMP、共享内存/SMP、分布式运行时环境的编程风格。

一个有趣的新竞争者是 MCAPI .但我认为还没有人有时间对此有任何实际经验。

所以总的来说，情况似乎是有很多我不知道的有趣的微软项目，而 Windows API 或 pthreads 是实践中最常见的实现。

Answer 1

MPI 并不像大多数人认为的那么难。现在我认为多范式方法最适合并行和分布式应用程序。使用 MPI 进行节点到节点的通信和同步，并使用 OpenMP 或 PThreads 进行更细粒度的并行化。想想每台机器的 MPI，以及每个内核的 OpenMP 或 PThreads。这似乎比在不久的将来为每个核心产生一个新的 MPI Proc 更好一点。

也许对于现在的双核或四核，为机器上的每个内核生成一个 proc 不会有那么多开销，但是随着我们接近每台机器越来越多的内核，其中缓存和芯片上的内存没有那么多扩展，使用共享内存模型会更合适。