c - 并行编程=多子进程还是每个进程创建一个子进程？

Question

不确定“并行编程”是什么意思……但我有两个想法

1. 进程 A 产生一定数量的子进程。一旦进程 A 完成创建子进程，所有子进程将同时运行。

2. 进程 A 创建子进程 B，进程 B 创建另一个子进程 C，进程 C 创建子进程 D，依此类推...一旦完成，所有具有分配任务的进程将同时运行。

哪个是并行编程的正确思想？感谢您的帮助!

编辑:我假设同时运行不同的程序需要多进程？

Answer 1

术语“并行编程”比仅仅“产生子进程或线程的进程”要广泛得多。这可能意味着:

1. 单个进程生成一组线程来完成某些工作。
2. 单个进程生成一组子进程来完成某些工作。
3. 独立产生的多个进程在同一台机器上进行协同计算。
4. 独立产生的多个进程在网络中的不同机器上进行协作计算。
5. 与执行所有并行计算的 GPU 通信的单个进程。
6. 上述各项的任意组合或嵌套。

基本上，并行编程是编写应用程序或应用程序组来并行解决问题的行为。线程、进程等只是实现这一点的手段。

考虑这种情况:一个大型并行文本处理任务发生在一个集群上。主节点向其所有从节点发出命令以生成计算进程(全局并行性)。每个进程依次产生多个线程/子进程以利用本地并行性(多核/多处理器节点)。