c++ - MPI 双环、最大值、最小值和平均值

Question

在我的计算机编程课上，我们只用了大约一天的时间来研究 MPI，现在我必须为它编写一个程序。我要编写一个程序，将进程组织成两个环。

第一个环从进程 0 开始，然后继续将消息发送到下一个偶数进程，最后一个进程将其消息发送回进程 0。例如，0--> 2 --> 4 --> 6 - -> 8 --> 0(但一直到 32 而不是 8)。下一个环也是一样的，不过是从进程1开始，发送到上一个关闭的进程再回到1。比如1--> 9--> 7--> 5 --> 3--> 1。

另外，我应该找到一个非常大的整数数组的最大值、最小值和平均值。我必须将数组分散到每个进程，让每个进程计算一个部分答案，然后在每个人都完成后在进程 0 上一起减少答案。

最后，我要分散到各个进程中，每个进程都必须计算每个字母在一个部分中出现的次数。那部分对我来说真的毫无意义。但是我们刚刚学习了非常基础的知识，所以请不要花哨的东西!这是我到目前为止的内容，我已经注释掉了一些东西只是为了提醒自己一些东西，所以如有必要请忽略。

#include <iostream>
#include "mpi.h"

using namespace std;
// compile: mpicxx program.cpp
 // run: mpirun -np 4 ./a.out 
int main(int argc, char *argv[])
{
int rank;       // unique number associated with each core
int size;       // total number of cores
char message[80];
char recvd[80];
int prev_node, next_node;
int tag;
MPI_Status status;
// start MPI interface
MPI_Init(&argc, &argv);
MPI_Comm_size(MPI_COMM_WORLD, &size);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);

sprintf(message, "Heeeelp! from %d", rank);

MPI_Barrier(MPI_COMM_WORLD);
next_node = (rank + 2) % size;
prev_node = (size + rank - 2) % size;


tag = 0;
if (rank % 2) {
    MPI_Send(&message, 80, MPI_CHAR, prev_node, tag, MPI_COMM_WORLD);
    MPI_Recv(&recvd, 80, MPI_CHAR, next_node, tag, MPI_COMM_WORLD, &status);
} else {
    MPI_Send(&message, 80, MPI_CHAR, next_node, tag, MPI_COMM_WORLD);
    MPI_Recv(&recvd, 80, MPI_CHAR, prev_node, tag, MPI_COMM_WORLD, &status);
}

cout << "* Rank " << rank << ": " << recvd << endl;

//max
int large_array[100];

rank == 0;  
int max = 0;

MPI_Scatter(&large_array, 1, MPI_INT, large_array, 1, MPI_INT, 0, MPI_COMM_WORLD);
MPI_Reduce(&message, max, 1, MPI_INT, MPI_MAX, 0, MPI_COMM_WORLD);


MPI_Finalize();

return 0;

Answer 1

对此我有一个小建议:

dest = rank + 2;
if (rank == size - 1)
    dest = 0;
source = rank - 2;
if (rank == 0)
    source = size - 1;

我认为 dest 和 source 作为名称会让人混淆(因为两者 都是消息的目的地，具体取决于值排名)。使用 % 运算符可能有助于提高清晰度:

next_node = (rank + 2) % size;
prev_node = (size + rank - 2) % size;

可以根据rank %2的值选择接收还是发送到next_node和prev_node:

if (rank % 2) {
        MPI_Send(&message, 80, MPI_CHAR, prev_node, tag, MPI_COMM_WORLD);
        MPI_Recv(&message, 80, MPI_CHAR, next_node, tag, MPI_COMM_WORLD, &status);
} else {
        MPI_Send(&message, 80, MPI_CHAR, next_node, tag, MPI_COMM_WORLD);
        MPI_Recv(&message, 80, MPI_CHAR, prev_node, tag, MPI_COMM_WORLD, &status);
}

这样做一次或两次没问题，但是如果您发现您的代码乱七八糟这些开关，将这些环例程放在一个函数中并传入下一个和以前的节点作为参数。

当需要分配数字数组和字符数组时，请记住 n/size 将在数组的末尾也需要处理。 (为了简单起见，可能在主节点上。)

我添加了一些更多的输出语句(以及一个存储来自其他节点的消息的地方)并且简单的环程序按预期工作:

$ mpirun -np 16 ./a.out | sort -k3n
* Rank 0: Heeeelp! from 14
* Rank 1: Heeeelp! from 3
* Rank 2: Heeeelp! from 0
* Rank 3: Heeeelp! from 5
* Rank 4: Heeeelp! from 2
* Rank 5: Heeeelp! from 7
* Rank 6: Heeeelp! from 4
* Rank 7: Heeeelp! from 9
* Rank 8: Heeeelp! from 6
* Rank 9: Heeeelp! from 11
* Rank 10: Heeeelp! from 8
* Rank 11: Heeeelp! from 13
* Rank 12: Heeeelp! from 10
* Rank 13: Heeeelp! from 15
* Rank 14: Heeeelp! from 12
* Rank 15: Heeeelp! from 1

你可以看到那里有两个圆环，每个圆环都有自己的方向:

#include <iostream>
#include "mpi.h"

using namespace std;
// compile: mpicxx program.cpp
// run: mpirun -np 4 ./a.out 
int main(int argc, char *argv[])
{
    int rank;       // unique number associated with each core
    int size;       // total number of cores
    char message[80];
    char recvd[80];
    int prev_node, next_node;
    int tag;
    MPI_Status status;
    // start MPI interface
    MPI_Init(&argc, &argv);
    MPI_Comm_size(MPI_COMM_WORLD, &size);
    MPI_Comm_rank(MPI_COMM_WORLD, &rank);

    sprintf(message, "Heeeelp! from %d", rank);

    // cout << "Rank " << rank << ": " << message << endl;

    MPI_Barrier(MPI_COMM_WORLD);
    next_node = (rank + 2) % size;
    prev_node = (size + rank - 2) % size;


    tag = 0;
    if (rank % 2) {
        MPI_Send(&message, 80, MPI_CHAR, prev_node, tag, MPI_COMM_WORLD);
        MPI_Recv(&recvd, 80, MPI_CHAR, next_node, tag, MPI_COMM_WORLD, &status);
    } else {
        MPI_Send(&message, 80, MPI_CHAR, next_node, tag, MPI_COMM_WORLD);
        MPI_Recv(&recvd, 80, MPI_CHAR, prev_node, tag, MPI_COMM_WORLD, &status);
    }

    cout << "* Rank " << rank << ": " << recvd << endl;

    //cout << "After - Rank " << rank << ": " << message << endl;
    // end MPI interface
    MPI_Finalize();

    return 0;
}

当需要编写更大的程序(数组最小值、最大值、平均值和字数)时，您需要稍微改变一下:只有 rank == 0 会发送消息在开始时;它会将拼图的各个部分发送给所有其他进程。所有其他进程将接收、执行工作，然后发回结果。 rank == 0 然后需要将所有结果整合成一个连贯的单一答案。