c - 如何从 SSE2 __m128i 结构中提取字节？

Question

我是 SIMD 内在函数的初学者，所以我会提前感谢大家的耐心。我有一个应用程序涉及无符号字节的绝对差异比较(我正在使用灰度图像)。

我尝试了 AVX，更现代的 SSE 版本等，但最终决定 SSE2 似乎足够并且对单个字节的支持最多 - 如果我错了，请纠正我。

我有两个问题:首先，加载 128 位寄存器的正确方法是什么？我想我应该传递与 128 的倍数对齐的负载内在函数数据，但这是否适用于像这样的二维数组代码:

greys = aligned_alloc(16, xres * sizeof(int8_t*));

for (uint32_t x = 0; x < xres; x++)
{
    greys[x] = aligned_alloc(16, yres * sizeof(int8_t*));
}

(上面的代码假设 xres 和 yres 相同，并且是 2 的幂)。这会变成内存中的线性、不间断的 block 吗？那么，当我循环时，我可以继续将地址(将它们增加 128)传递给 SSE2 加载内在函数吗？或者像这样的二维数组需要做一些不同的事情吗？

我的第二个问题:一旦我完成了所有的 vector 处理，我到底如何从 __m128i 中提取修改后的字节？ ?查看英特尔内部指南，将 vector 类型转换为标量类型的指令很少见。我找到的最接近的是 int _mm_movemask_epi8 (__m128i a)但我不太明白如何使用它。

哦，还有第三个问题——我假设 _mm_load_si128只加载有符号字节？而且我找不到任何其他字节加载函数，所以我想你应该从每个字节中减去 128 并在以后考虑它？

我知道这些是 SIMD 专家的基本问题，但我希望这个问题对像我这样的初学者有用。如果你认为我对应用程序的整个方法是错误的，或者我最好使用更现代的 SIMD 扩展，我很想知道。我只想谦虚地警告我从来没有使用过汇编，如果要帮助我，所有这些琐碎的东西都需要大量的解释。

不过，我很感激任何可用的澄清。

以防万一:我的目标是低功耗 i7 Skylake 架构。但是让应用程序也可以在更旧的机器上运行会很好(因此是 SSE2)。

Answer 1

首先最不明显的问题:

once I've done all my vector processing, how the heck do I extract the modified bytes from the __m128i

用 int64_t _mm_cvtsi128_si64x(__m128i) 将低 64 位提取为整数, 或 the low 32 bits with int _mm_cvtsi128_si32 (__m128i a) .
如果您想要 vector 的其他部分，而不是低元素，您的选择是:

打乱 vector 以创建新的 __m128i在低元素中使用您想要的数据，并使用 cvt 内在函数(asm 中的 MOVD 或 MOVQ)。

使用 SSE2 int _mm_extract_epi16 (__m128i a, int imm8) ，或 SSE4.1 对其他元素大小的类似指令，例如 _mm_extract_epi64(v, 1); (PEXTRB/W/D/Q) 不是最快的指令，但如果你只需要一个高元素，它们大约相当于单独的 shuffle 和 MOVD，但机器代码更小。

_mm_store_si128到对齐的临时数组并访问成员:编译器通常会将其优化为随机播放或 pextr*使用 -msse4.1 编译时的说明或 -march=haswell管他呢。 print a __m128i variable显示一个示例，包括显示 _mm_store_si128 的 Godbolt 编译器输出进入 alignas(16) uint64_t tmp[2]

或使用 union { __m128i v; int64_t i64[2]; }或者其他的东西。基于 union 的类型双关语在 C99 中是合法的，但仅作为 C++ 中的扩展。这与 tmp 数组的编译方式相同，通常不易阅读。
在 C++ 中也可以使用的 union 的替代方法是 memcpy(&my_int64_local, 8 + (char*)my_vector, 8);。提取高半部分，但这似乎更复杂且不太清楚，并且更有可能是编译器不会“看穿”的东西。当它是一个完整的变量时，编译器通常非常擅长优化小型固定大小的 memcpy，但这只是变量的一半。

如果 vector 的整个高半部分可以不加修改地直接进入内存(而不是需要在整数寄存器中)，智能编译器可能会优化为使用 MOVHPS存储 __m128i 的高半部分与上述 union 的东西。
或者您可以使用 _mm_storeh_pi((__m64*)dst, _mm_castsi128_ps(vec)) .这只需要 SSE1，并且比 SSE4.1 更高效 pextrq在大多数 CPU 上。但是不要对即将再次使用的标量整数执行此操作；如果 SSE4.1 不可用，则编译器可能实际上会 MOVHPS 和整数重新加载，这通常不是最佳的。 (并且一些像 MSVC 这样的编译器不会优化内在函数。)

Does this turn into a linear, unbroken block in memory?

不，它是一个指向单独内存块的指针数组，与正确的 2D 数组相比，它引入了额外的间接级别。不要那样做。
进行一次大分配，然后自己进行索引计算(使用 array[x*yres + y] )。
是的，使用 _mm_load_si128 从中加载数据, 或 loadu 如果您需要从偏移量加载。

assumed _mm_load_si128 only loads signed bytes

有符号或无符号不是字节的固有属性，它只是您解释位的方式。您使用相同的加载内在函数来加载两个 64 位元素或一个 128 位位图。
使用适合您的数据的内在函数。这有点像汇编语言:一切都只是字节，机器会用字节做你告诉它的事情。您可以选择产生有意义结果的指令/内在函数序列。
整数负载内在函数采用 __m128i*指针参数，所以你必须使用 _mm_load_si128( (const __m128i*) my_int_pointer )或类似的。这看起来像指针别名(例如，通过 int 读取 short * 的数组)，这是 C 和 C++ 中的未定义行为。然而，这就是英特尔所说的你应该这样做的方式，因此任何实现英特尔内在函数的编译器都需要使其正常工作。 gcc 通过定义 __m128i 来做到这一点。与 __attribute__((may_alias)) .
另见 Loading data for GCC's vector extensions它指出您可以将英特尔内在函数用于 GNU C native vector 扩展，并展示如何加载/存储。

要了解有关 SSE 的 SIMD 的更多信息，请访问 sse 中的一些链接。标记 wiki，包括一些介绍/教程链接。
x86 tag wiki 有一些很好的 x86 asm/性能链接。