c++ - 什么可能导致相同的 SSE 代码在相同的函数中运行速度慢几倍？

Question

编辑 3: 图片是全尺寸版本的链接。对于文字图片，我们深表歉意，但这些图表很难复制/粘贴到文本表格中。

---

对于使用 icc --std=c++14 -qopenmp -axS -O3 -fPIC 编译的程序，我有以下 VTune 配置文件:

在该配置文件中，两个指令集在汇编 View 中突出显示。尽管指令相同且顺序相同，但上部集群比下部集群花费的时间要少得多。两个集群都位于同一个函数内，显然都被调用了 n 次。每次我在我现在使用的 Westmere Xeon 和 Haswell 笔记本电脑上运行分析器时都会发生这种情况(使用 SSE 编译，因为这是我现在的目标和学习目标)。

我错过了什么？

忽略较差的并发性，这很可能是由于笔记本电脑节流造成的，因为它不会发生在桌面 Xeon 机器上。

我认为这不是微优化的例子，因为这三个加在一起占总时间的相当大的百分比，我真的很想知道这种行为的可能原因。

编辑: OMP_NUM_THREADS=1 taskset -c 1/opt/intel/vtune...

相同的配置文件，尽管这次 CPI 略低。

Answer 1

硬件性能计数器通常会对必须等待其输入的指令进行停顿，而不是对产生输出速度较慢的指令进行充电。

第一组的输入来自您的收集。这可能会丢失很多缓存，并且不会向那些 SUBPS/MULPS/ADDPS 指令收取费用。它们的输入直接来自 voxel[] 的 vector 加载，因此存储转发失败会导致一些延迟。但这只是大约 10 个周期的 IIRC，与收集期间的缓存未命中相比很小。 (对于您突出显示的第一组之前的指令，那些缓存未命中显示为大条)

第二组的输入直接来自缓存中可能丢失的负载。在第一组中，缓存未命中负载的直接消费者是像设置 voxel[0] 这样的行的指令，它有一个非常大的条。

但是在第二组中，a_transfer[] 中缓存未命中的时间归因于您突出显示的组。或者，如果不是缓存未命中，则可能是地址计算速度慢，因为加载必须等待 RAX 准备就绪。

---

看起来您可以在此处优化很多。

• 不是为 a_pointf 存储/重新加载，而是在 __m128 变量中使其在循环迭代中保持热。仅当您发现编译器在溢出哪个 vector 寄存器方面做出糟糕的选择时(如果寄存器用完)，在 C 源代码中存储/重新加载才有意义。

• 使用 _mm_cvttps_epi32(vf) 计算 vi，因此 ROUNDPS 不是收集索引的依赖链的一部分。

  <

• voxel 通过将窄负载洗牌到 vector 中来收集自己，而不是编写复制到数组然后从中加载的代码。 (保证存储转发失败，请参阅 Agner Fog's optimization guides 和来自 x86 标签 wiki 的其他链接)。

  部分矢量化地址数学(base_0 的计算，使用 PMULDQ with a constant vector )可能是值得的，因此您只需要一个 MOVQ 而不是存储/重新加载(~5 周期延迟)或两个(Haswell 大约有 1 或 2 个周期延迟，我忘记了。)

  使用 MOVD 加载两个相邻的 short 值，并使用 PINSRD 将另一对合并到第二个元素中。您可能会从 _mm_setr_epi32(*(const int*)base_0, *(const int*)(base_0 + dim_x), 0, 0) 获得好的代码，除了指针别名是未定义的行为。您可能会从 _mm_setr_epi16(*base_0, *(base_0 + 1), *(base_0 + dim_x), *(base_0 + dim_x + 1), 0,0,0,0) 得到更糟糕的代码。

  然后用PMOVSX将低4位16位元素展开为32位元素整型，并与_mm_cvtepi32_ps (CVTDQ2PS)并行全部转化为float .

• 您的标量 LERP 未被自动矢量化，但您并行执行两个(并且可能会保存一条指令，因为无论如何您都希望将结果放入 vector 中)。

• 调用 floorf() 很愚蠢，函数调用会强制编译器将所有 xmm 寄存器溢出到内存中。使用 -ffast-math 或任何让它内联到 ROUNDSS 的东西进行编译，或者手动进行。特别是因为您继续将您计算出的 float 加载到 vector 中!

• 使用 vector 比较而不是标量 prev_x/prev_y/prev_z。使用 MOVMASKPS 将结果转换为您可以测试的整数。 (您只关心较低的 3 个元素，因此使用 compare_mask & 0b0111 对其进行测试(如果设置了 4 位掩码的任何低 3 位，则在比较不等于之后为真_mm_cmpneq_ps。请参阅指令的双重版本以获取有关其工作原理的更多表格:http://www.felixcloutier.com/x86/CMPPD.html)。