c++ - 矩阵乘法 - Cuda 值得吗？

Question

我有一个涉及许多矩阵乘法(经典和克罗内克乘积)的问题。我读到 GPU 适合这项任务，因为速度是我的主要目标，所以我正在考虑将 Cuda 与 C++ 结合使用。但是我必须先学习Cuda。所以在我开始浪费时间之前，我想我应该先问问更聪明的人。 Cuda 可以加快我的计算速度吗？矩阵通常很小，大约 20x50。有时涉及三维，因此它变成 20x50x10 矩阵。我只能一次乘以几个矩阵 (10-100)。但是我需要一个接一个地进行数百万次迭代(蒙特卡罗模拟)。目前我正在使用 Armadillo 和matlab。

Answer 1

如果您的矩阵更大，您会看到一些加速，现在您将面临比计算时间延迟更糟糕的数据带宽瓶颈。

值得考虑的事情是看看可以让您(根据您的计算)将多个实例组合成更大的矩阵然后传输和计算的数学技巧。但通常这是相当困难的，而且可能并不总是可行的。