c++ - 如何分析 cpp/汇编代码的性能

Question

我正在努力学习更多有关如何分析我更常用方法的性能的信息。

我已经尝试使用 rand() 并将对我的方法的大量调用计时作为一种性能测量方法，但我还想通过了解汇编代码的作用来了解更多关于如何测量性能的信息。

例如，我读到有人试图优化 sgn 函数 ( Is there a standard sign function (signum, sgn) in C/C++? )，所以我认为这是一个很好的起点。我去了http://gcc.godbolt.org并为以下代码生成 asm(带有 -march=core-avx2 -fverbose-asm -Ofast -std=c++11 的 ICC):

int sgn_v1(float val)
{
    return (float(0) < val) - (val < float(0));
}

和

int sgn_v2(float val)
{
  if (float(0) < val)      return  1;
  else if (val < float(0)) return -1;
  else                     return  0;
}

这生成了以下程序集

L__routine_start__Z6sgn_v1f_0:
sgn_v1(float):
        vxorps    %xmm2, %xmm2, %xmm2                           #3.38
        vcmpgtss  %xmm2, %xmm0, %xmm1                           #3.38
        vcmpgtss  %xmm0, %xmm2, %xmm3                           #3.38
        vmovd     %xmm1, %eax                                   #3.38
        vmovd     %xmm3, %edx                                   #3.38
        negl      %eax                                          #3.38
        negl      %edx                                          #3.38
        subl      %edx, %eax                                    #3.38
        ret                                                     #3.38

和

L__routine_start__Z6sgn_v2f_1:
sgn_v2(float):
        vxorps    %xmm1, %xmm1, %xmm1                           #8.3
        vcomiss   %xmm1, %xmm0                                  #8.18
        ja        ..B2.3        # Prob 28%                      #8.18
        vcmpgtss  %xmm0, %xmm1, %xmm0                           #
        vmovd     %xmm0, %eax                                   #
        ret                                                     #
..B2.3:                         # Preds ..B2.1
        movl      $1, %eax                                      #9.12
        ret                                                     #9.12

我的分析从以下事实开始:sgn_v1 有 9 条指令，而 sgn_v2 有 6 或 5 条指令，具体取决于跳转的结果。上一篇文章讨论了 sgn_v1 是如何无分支的，这似乎是一件好事，我认为这意味着 sgn_v1 中的多条指令可以同时执行。我去了http://www.agner.org/optimize/instruction_tables.pdf而且我无法为 haswell 部分 (p187-p202) 中的大部分这些操作提供资金。

我该如何分析？

编辑:

响应@Raxvan 的评论，我运行了以下测试程序

extern "C" int sgn_v1(float);
__asm__(
"sgn_v1:\n"
"  vxorps    %xmm2, %xmm2, %xmm2\n"
"  vcmpgtss  %xmm2, %xmm0, %xmm1\n"
"  vcmpgtss  %xmm0, %xmm2, %xmm3\n"
"  vmovd     %xmm1, %eax\n"
"  vmovd     %xmm3, %edx\n"
"  negl      %eax\n"
"  negl      %edx\n"
"  subl      %edx, %eax\n"
"  ret\n"
);

extern "C" int sgn_v2(float);
__asm__(
"sgn_v2:\n"
"  vxorps    %xmm1, %xmm1, %xmm1\n"
"  vcomiss   %xmm1, %xmm0\n"
"  ja        ..B2.3\n"
"  vcmpgtss  %xmm0, %xmm1, %xmm0\n"
"  vmovd     %xmm0, %eax\n"
"  ret\n"
"  ..B2.3:\n"
"  movl      $1, %eax\n"
"  ret\n"
);

#include <cstdlib>
#include <ctime>
#include <iostream>

int main()
{
  size_t N = 50000000;
  std::clock_t start = std::clock();
  for (size_t i = 0; i < N; ++i)
  {
    sgn_v1(float(std::rand() % 3) - 1.0);
  }
  std::cout << "v1 Time: " << (std::clock() - start) / (double)(CLOCKS_PER_SEC / 1000) << " ms " << std::endl;

  start = std::clock();
  for (size_t i = 0; i < N; ++i)
  {
    sgn_v2(float(std::rand() % 3) - 1.0);
  }
  std::cout << "v2 Time: " << (std::clock() - start) / (double)(CLOCKS_PER_SEC / 1000) << " ms " << std::endl;

  start = std::clock();
  for (size_t i = 0; i < N; ++i)
  {
    sgn_v2(float(std::rand() % 3) - 1.0);
  }
  std::cout << "v2 Time: " << (std::clock() - start) / (double)(CLOCKS_PER_SEC / 1000) << " ms " << std::endl;

  start = std::clock();
  for (size_t i = 0; i < N; ++i)
  {
    sgn_v1(float(std::rand() % 3) - 1.0);
  }
  std::cout << "v1 Time: " << (std::clock() - start) / (double)(CLOCKS_PER_SEC / 1000) << " ms " << std::endl;
}

我得到了以下结果:

g++-4.8 -std=c++11 test.cpp && ./a.out
v1 Time: 423.81 ms
v2 Time: 657.226 ms
v2 Time: 666.233 ms
v1 Time: 436.545 ms

所以无分支的结果显然更好； @Jim 建议我研究分支预测器的工作原理，但我仍然找不到计算管道有多“满”的方法...

Answer 1

一般来说，时间是一个非常嘈杂的测量，尤其是当您将事物按顺序测量到单个运行/过程中时，这意味着一个接一个地交错事件可能会增加噪声。正如您提到的分支对管道有重大影响并且根据经验，分支越少的代码应该表现得越好，一般来说，影响性能的两个主要因素是引用位置和分支预测，而在更复杂的情况下，例如使用多线程时还有其他因素。为了回答你的问题，我会说最好使用诸如 perf 之类的工具，它可以指示缓存未命中数和分支未命中预测，这应该给出一个很好的指示，通常取决于你正在开发的平台你可能能够找到合适的工具可以查询CPU的性能计数器。此外，您应该真正生成一组随机值，​​并在两个函数中使用完全相同的值，这样您就可以消除执行 std::rand() 的噪音。最后请记住，根据不同的编译器、编译选项(显然)和目标体系结构，代码的执行方式会有所不同，但是您可以应用的一些逻辑无论如何都应该保持不变，因为在您的示例中，没有条件分支的代码应该总是表现得更好.如果你真的想挑剔它，你真的应该阅读英特尔的手册(特别是 avx)。