gpt4 book ai didi

c# - 为什么 2048x2048 与 2047x2047 数组乘法相比性能会受到巨大影响?

转载 作者:IT王子 更新时间:2023-10-29 03:33:17 26 4
gpt4 key购买 nike

我正在做一些矩阵乘法基准测试,如前所述 Why is MATLAB so fast in matrix multiplication?

现在我又遇到了一个问题,当两个2048x2048的矩阵相乘时,C#和其他的有很大的不同。当我尝试仅乘以 2047x2047 矩阵时,这似乎很正常。也添加了一些其他的进行比较。

1024x1024 - 10 秒。

1027x1027 - 10 秒。

2047x2047 - 90 秒。

2048x2048 - 300 秒。

2049x2049 - 91 秒。 (更新)

2500x2500 - 166 秒

对于 2k x 2k 的情况,这是三分半钟的差异。

使用 2dim 数组

//Array init like this
int rozmer = 2048;
float[,] matice = new float[rozmer, rozmer];

//Main multiply code
for(int j = 0; j < rozmer; j++)
{
for (int k = 0; k < rozmer; k++)
{
float temp = 0;
for (int m = 0; m < rozmer; m++)
{
temp = temp + matice1[j,m] * matice2[m,k];
}
matice3[j, k] = temp;
}
}

最佳答案

这可能与二级缓存中的冲突有关。

matice1 上的缓存未命中不是问题,因为它们是按顺序访问的。但是,对于 matice2,如果一个完整的列适合 L2(即当您访问 matice2[0, 0]、matice2[1, 0]、matice2[2, 0] ... 等时,没有任何内容被驱逐)比没有问题缓存未命中 matice2。

现在深入了解缓存的工作原理,如果变量的字节地址是 X,那么它的缓存行将是 (X >> 6) & (L - 1)。其中 L 是缓存中的缓存行总数。 L 始终是 2 的幂。六个来自 2^6 == 64 字节是缓存行的标准大小。

现在这是什么意思?那么这意味着如果我有地址 X 和地址 Y 和(X >> 6) - (Y >> 6) 可被 L 整除(即 2 的某个大幂),它们将存储在相同的缓存行中。

现在回到您的问题,2048 和 2049 之间有什么区别,

当您的尺寸为 2048 时:

如果你取 &matice2[x, k] 和 &matice2[y, k] 差 (&matice2[x, k] >> 6) - (&matice2[y,k] >> 6) 将被 2048 整除 * 4( float 的大小)。所以是 2 的大幂。

因此,根据 L2 的大小,您将有很多缓存行冲突,并且仅使用 L2 的一小部分来存储列,因此您实际上无法在缓存中存储完整列,因此您将表现不佳。

当大小为 2049 时,差值为 2049 * 4,这不是 2 的幂,因此您的冲突会更少,您的列将安全地放入缓存。

现在要检验这个理论,您可以做几件事:

像这样分配数组 matice2 数组 matice2 [razmor, 4096],并使用 razmor = 1024、1025 或任何大小运行,与之前相比,您应该会看到非常糟糕的性能。这是因为您强行对齐所有列以使其相互冲突。

然后尝试 matice2 [razmor, 4097] 并以任意大小运行它,您应该会看到更好的性能。

关于c# - 为什么 2048x2048 与 2047x2047 数组乘法相比性能会受到巨大影响?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/6060985/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com