c++ - 使用 AVX2 将 8 位从 32 位值 (__m256i) 解压到 __m256 的最快方法

Question

我有一个名为 A 的数组，它包含 32 个 unsigned char 值。

我想使用此规则将这些值解压缩到 4 个 __m256 变量中，假设我们有一个从 0 到 31 的索引，关于 A 中的所有值，解压缩的 4变量将具有这些值:

B_0 = A[0], A[4],  A[8], A[12], A[16], A[20], A[24], A[28]
B_1 = A[1], A[5],  A[9], A[13], A[17], A[21], A[25], A[29]
B_2 = A[2], A[6], A[10], A[14], A[18], A[22], A[26], A[30]
B_3 = A[3], A[7], A[11], A[15], A[19], A[23], A[27], A[31]

为此，我有以下代码:

const auto mask = _mm256_set1_epi32( 0x000000FF );
...
const auto A_values = _mm256_i32gather_epi32(reinterpret_cast<const int*>(A.data(), A_positions.values_, 4);

// This code bellow is equivalent to B_0 = static_cast<float>((A_value >> 24) & 0x000000FF)
const auto B_0 = _mm256_cvtepi32_ps(_mm256_and_si256(_mm256_srai_epi32(A_values, 24), mask));
const auto B_1 = _mm256_cvtepi32_ps(_mm256_and_si256(_mm256_srai_epi32(A_values, 16), mask));
const auto B_2 = _mm256_cvtepi32_ps(_mm256_and_si256(_mm256_srai_epi32(A_values, 8), mask));
const auto B_3 = _mm256_cvtepi32_ps(_mm256_and_si256(_mm256_srai_epi32(A_values, 0), mask));

这很好用，但我想知道是否有更快的方法来做到这一点，特别是关于我用来检索值的右移和运算符。

另外，为了澄清，我说过 array A 的大小是 32，但事实并非如此，这个数组包含更多的值，我需要访问它是来自不同位置的元素(但总是来自 4 个 uint8_t 的 block )，这就是我使用 _mm256_i32gather_epi23 检索这些值的原因。为简单起见，我在此示例中限制了 array 的大小。

Answer 1

shift/mask 可以在 vpshufb 中组合。当然，这意味着需要担心 shuffle mask，它必须来自某个地方。如果它们可以留在寄存器中，那没什么大不了的，如果必须加载它们，则可能会破坏这种技术。

这似乎是对 Intel 的优化，因为转换的 recip.throughput 为 0.5 和 AND 0.33，这比通过 shuffle 获得的 1 要好(具有两个 shuffle 单元的 Intel 处理器不支持AVX2 所以它们不相关，所以随机播放到 P5)。它仍然更少微操作，因此在其他代码的上下文中，它可能值得也可能不值得，具体取决于瓶颈是什么。如果其余代码只使用 P01(典型的 FP SIMD)，将 µops 移至 P5 可能是个好主意。

在 Ryzen 上，它通常更好，因为 vector 移位在那里的吞吐量较低。 256b vpsrad 生成 2 个微操作，它们都必须转到端口 2(然后还有两个微操作用于 vpand，但它们可以转到四个 alu 端口中的任何一个) , 256b vpshufb 生成 2 个 µops，可以到达端口 1 和 2。另一方面，gather 在 Ryzen 上非常糟糕，与来自它的大量 µops 相比，这一切都只是噪音。您可以手动收集，但它仍然需要很多微操作，而且它们很可能会转到 P12，这使得这项技术很糟糕。

总而言之，我无法告诉您这是否真的更快，这要视情况而定。