c++ - 计算 GFlops

Question

我想知道如何为我的程序(比如 CUDA 应用程序)计算 GFlops。

我是否需要测量代码中的执行时间和浮点运算次数？如果我有一个像“logf”这样的操作，它会只算一次失败吗？

Answer 1

实际浮点运算的数量将取决于代码的编写方式(编译器可以在两个方向上进行优化 - 即合并通用运算 c = (a * 4.0 + b * 4.0); 可以变成c = (a + b) * 4.0，比你写的少一个。但是编译器也可以将一些东西转换成更多的操作:

 c = a / b;

可能会变成:

 temp = 1 / b;
 c = temp * a;

(这是因为 1/x 比 y/x 更“简单”，而且乘法比除法快)。

如评论中所述，某些浮点运算(log、sin、cos 等)需要不止一次(通常超过十次)运算才能得到结果。

另一个需要考虑的因素是“负载”和“存储”。这些可能很难预测，因为它高度依赖于编译器代码生成、编译器在给定点可用的寄存器数量等。加载和存储是否真正重要取决于你如何看待事物，但它们肯定会计入总执行时间。如果需要处理大量数据，但每个步骤都非常简单(例如 c = a + b 其中 a、b 和c 是 vector )，从内存中获取数据的时间明显长于 add 的执行时间。另一方面，c = log(a) + log(b); 几乎肯定会“隐藏”加载和存储结果的时间，因为 log 本身需要比加载或存储操作长很多。