- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
我正在尝试使用 MPI 编写矩阵 vector 乘法程序。我正在尝试将矩阵的列发送到单独的进程并在本地计算结果。最后,我使用 MPI_SUM
操作执行了 MPI_Reduce
。
发送矩阵的行很容易,因为 C 以行优先顺序存储数组,但列则不然(如果您不一一发送)。我在这里阅读了问题:
MPI_Scatter - sending columns of 2D array
Jonathan Dursi 建议使用新的 MPI 数据类型,这是我根据自己的需要调整他的代码所做的:
double matrix[10][10];
double mytype[10][10];
int part_size; // stores how many cols a process needs to work on
MPI_Datatype col, coltype;
// ...
MPI_Type_vector(N, 1, N, MPI_DOUBLE, &col);
MPI_Type_commit(&col);
MPI_Type_create_resized(col, 0, 1*sizeof(double), &coltype);
MPI_Type_commit(&coltype);
// ...
MPI_Scatter(matrix, part_size, coltype,
mypart, part_size, coltype,
0, MPI_COMM_WORLD);
// calculations...
MPI_Reduce(local_result, global_result,
N, MPI_DOUBLE,
MPI_SUM,
0, MPI_COMM_WORLD);
这很完美,但我不能说我真的理解它是如何工作的。
MPI_Type_vector
是如何存储在内存中的?MPI_Type_create_resized()
是如何工作的,它究竟有什么作用?请记住,我是 MPI 的初学者。提前致谢。
最佳答案
在 my answer 中对此问题有很长的描述。至 this question :很多人都有这些问题的事实证明它并不明显,而且这些想法需要一些时间来适应。
重要的是要了解 MPI 数据类型描述的内存布局。 MPI_Type_vector
的调用顺序是:
int MPI_Type_vector(int count,
int blocklength,
int stride,
MPI_Datatype old_type,
MPI_Datatype *newtype_p)
它创建了一个描述内存布局的新类型,其中每个 stride
项目,有一 block blocklength
元素拉出来,一共count
这些 block 。这里的项目以 old_type
为单位曾是。因此,例如,如果您调用(在此处命名参数,这在 C 中实际上是做不到的,但是:)
MPI_Type_vector(count=3, blocklength=2, stride=5, old_type=MPI_INT, &newtype);
然后 newtype
会像这样描述内存中的布局:
|<----->| block length
+---+---+---+---+---+---+---+---+---+---+---+---+---+---+---+
| X | X | | | | X | X | | | | X | X | | | |
+---+---+---+---+---+---+---+---+---+---+---+---+---+---+---+
|<---- stride ----->|
count = 3
其中每个方 block 是一个整数大小的内存块,大概是 4 个字节。请注意,步幅是从一个 block 的开始到下一个 block 的开始的整数距离,而不是 block 之间的距离。
好的,所以在你的情况下你打电话
MPI_Type_vector(N, 1, N, MPI_DOUBLE, &col);
需要count = N
block ,每个大小为 blocklength=1
MPI_DOUBLE
s,在每个 block 的开始之间有一个空格 stride=N
MPI_DOUBLE
秒。换句话说,每 N 次加倍,总共 N 次;非常适合从(连续存储的)NxN double 组中提取一列。一个方便的检查是查看跨越了多少数据(count*stride = N*N
,这是矩阵的完整大小,检查)以及实际包含了多少数据(count*blocksize = N
,这是一列的大小,检查。 )
如果您所要做的只是调用 MPI_Send 和 MPI_Recv 来交换各个列,那么您就完成了;你可以使用这种类型来描述列的布局,你会没事的。但还有一件事。
您想调用 MPI_Scatter
,它将第一个 coltype(比如说)发送到处理器 0,下一个 coltype 发送到处理器 1,等等。如果您使用简单的一维数组执行此操作,则很容易找出“下一个”数据类型的位置;如果您将 1 个 int 分散到每个处理器,则“下一个”int 在第一个 int 结束后立即开始。
但是您的新 coltype 列总共有 extent从列的开头到 N*N
MPI_DOUBLE
稍后——如果 MPI_Scatter 遵循相同的逻辑(确实如此),它将开始完全在矩阵内存之外寻找“下一”列,依此类推。您不仅得不到想要的答案,而且程序可能会崩溃。
解决这个问题的方法是告诉 MPI,为了计算“下一个”数据所在的位置,此数据类型的“大小”是内存中一列开始位置和下一列开始位置之间的大小;也就是说,只有一个 MPI_DOUBLE
.这不会影响发送的数据量,它仍然是 1 列数据;它只影响“下一个”计算。对于数组中的列(或行),您只需将此大小发送到内存中的适当步长,MPI 将选择正确的下一列进行发送。如果没有这个调整大小运算符,您的程序可能会崩溃。
当你有更复杂的数据布局时,比如在上面链接的二维数组示例的二维 block 中,那么“下一个”项目之间没有一个单一的步长;你仍然需要做一些调整大小的技巧来使大小成为一些有用的单位,但是你需要使用 MPI_Scatterv而不是分散以明确指定要发送的位置。
关于c - 使用 MPI_Scatter 发送矩阵的列,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/10788180/
假设我有两个矩阵,每个矩阵有两列和不同的行数。我想检查并查看一个矩阵的哪些对在另一个矩阵中。如果这些是一维的,我通常只会做 a %in% x得到我的结果。 match似乎只适用于向量。 > a
关闭。这个问题是opinion-based .它目前不接受答案。 想要改进这个问题? 更新问题,以便 editing this post 可以用事实和引用来回答它. 关闭 9 个月前。 Improv
我只处理过 DirectX 矩阵 我读过一些文章,说不能将 DirectX 矩阵数学库用于 openGL 矩阵。 但我也读过,如果你的数学是一致的,你可以获得类似的结果。那只会让我更加困惑。 任何人都
我编写了一个C++代码来解决线性系统A.x = b,其中A是一个对称矩阵,方法是首先使用LAPACK(E)对角矩阵A = V.D.V^T(因为以后需要特征值),然后求解x = A^-1.b = V^T
我遇到了问题。我想创建二维数组 rows=3 cols=2我的代码如下 int **ptr; int row=3; int col=2; ptr=new int *[col]; for (int i=
我有一个 3d mxnxt 矩阵,我希望能够提取 t 2d nxm 矩阵。在我的例子中,我有一个 1024x1024x10 矩阵,我想要 10 张图像显示给我。 这不是 reshape ,我每次只需要
我在 MATLAB 中有一个 3d 矩阵 (n-by-m-by-t) 表示一段时间内网格中的 n-by-m 测量值.我想要一个二维矩阵,其中空间信息消失了,只剩下 n*m 随着时间 t 的测量值(即:
作为一个简化的示例,我有一个 3D numpy 矩阵,如下所示: a = np.array([[[1,2], [4,np.nan], [7,
作为一个简化的示例,我有一个 3D numpy 矩阵,如下所示: a = np.array([[[1,2], [4,np.nan], [7,
使用 eigen2 , 并给定一个矩阵 A a_0_0, a_0_1, a_0_2, ... a_1_0, a_1_0, a_1_2, ... ... 和一个矩阵B: b_0_0, b_0_1, b_
我想知道如何获得下面的布局。 在中型和大型设备上,我希望有 2 行和 2 列的布局(2 x 2 矩阵)。 在小型(和超小型)设备上或调整为小型设备时,我想要一个 4 行和 1 列的矩阵。 我将通过 a
有什么方法可以向量化以下内容: for i = 1:6 te = k(:,:,:,i).*(c(i)); end 我正在尝试将 4D 矩阵 k 乘以向量 c,方法是将其
如何从填充有 1 和 0 的矩阵中抽取 n 个随机点的样本? a=rep(0:1,5) b=rep(0,10) c=rep(1,10) dataset=matrix(cbind(a,b,c),nrow
我正在尝试创建一个包含 X 个 X 的矩阵。以下代码生成从左上角到右下角的 X 对 Angular 线,而不是从右上角到左下角的 X 对 Angular 线。我不确定从哪里开始。是否应该使用新变量创建
我想在 python 中创建一个每行三列的矩阵,并能够通过任何一行对它们进行索引。矩阵中的每个值都是唯一的。 据我所知,我可以设置如下矩阵: matrix = [["username", "name"
我有点迷茫 我创建了一个名为 person 的类,它具有 age 和 name 属性(以及 get set 方法)。然后在另一个类中,我想创建一个 persons 数组,其中每个人都有不同的年龄和姓名
我有 n 个类,它们要么堆叠,要么不堆叠。所有这些类都扩展了同一个类 (CellObject)。我知道更多类将添加到此列表中,我想创建一种易于在一个地方操纵“可堆叠性”的方法。 我正在考虑创建一个矩阵
我有一个包含 x 个字符串名称及其关联 ID 的文件。本质上是两列数据。 我想要的是一个格式为 x x x 的相关样式表(将相关数据同时作为 x 轴和 y 轴),但我想要 fuzzywuzzy 库的函
机器学习与传统编程的一个重要区别在于机器学习比传统编程涉及了更多的数学知识。不过,随着机器学习的飞速发展,各种框架应运而生,在数据分析等应用中使用机器学习时,使用现成的库和框架成为常态,似乎越来越不需
当我在 julia 中输入这个错误跳转但我不知道为什么,它应该工作。/ julia> A = [1 2 3 4; 5 6 7 8; 1 2 3 4; 5 6 7 8] 4×4 Array{Int64,
我是一名优秀的程序员,十分优秀!