assembly - 对于memcmp，SSE4.2字符串指令比SSE2快多少？

Question

这是我的代码的汇编器

您可以将其嵌入c ++并针对SSE4进行检查吗？以速度

我非常想看看如何步入SSE4的开发。还是根本不担心他？让我们检查一下（我在SSSE3以上没有支持）

{ sse2 strcmp WideChar 32 bit }
function CmpSee2(const P1, P2: Pointer; len: Integer): Boolean;
asm
    push ebx           // Create ebx
    cmp EAX, EDX      // Str = Str2
    je @@true        // to exit true
    test eax, eax   // not Str
    je @@false     // to exit false
    test edx, edx // not Str2
    je @@false   // to exit false
    sub edx, eax              // Str2 := Str2 - Str;
    mov ebx, [eax]           // get Str 4 byte
    xor ebx, [eax + edx]    // Cmp Str2 4 byte
    jnz @@false            // Str <> Str2 to exit false
    sub ecx, 2            // dec 4
    { AnsiChar  : sub ecx, 4 }
    jbe @@true           // ecx <= 0 to exit true
    lea eax, [eax + 4]  // Next 4 byte
    @@To1:
    movdqa xmm0, DQWORD PTR [eax]       // Load Str 16 byte
    pcmpeqw xmm0, DQWORD PTR [eax+edx] // Load Str2 16 byte and cmp
    pmovmskb ebx, xmm0                // Mask cmp
    cmp ebx, 65535                   // Cmp mask
    jne @@Final                     // ebx <> 65535 to goto final
    add eax, 16                    // Next 16 byte
    sub ecx, 8                    // Skip 8 byte (16 wide)
    { AnsiChar  : sub ecx, 16 }
    ja @@To1                     // ecx > 0
    @@true:                       // Result true
    mov eax, 1                 // Set true
    pop ebx                   // Remove ebx
    ret                      // Return
    @@false:                  // Result false
    mov eax, 0             // Set false
    pop ebx               // Remove ebx
    ret                  // Return
    @@Final:
    cmp ecx, 7         // (ebx <> 65535) and (ecx > 7)
    { AnsiChar : cmp ecx, 15 }
    jae @@false       // to exit false
    movzx ecx, word ptr @@mask[ecx * 2 - 2] // ecx = mask[ecx]
    and ebx, ecx                           // ebx = ebx & ecx
    cmp ebx, ecx                          // ebx = ecx
    sete al                              // Equal / Set if Zero
    pop ebx                             // Remove ebx
    ret                                // Return
    @@mask: // array Mersenne numbers
    dw $000F, $003F, $00FF, $03FF, $0FFF, $3FFF
    { AnsiChar
    dw 7, 15, 31, 63, 127, 255, 511, 1023, 2047, 4095, 8191, 16383
    }
end;

Semple 32位 https://vk.com/doc297044195_451679410

Answer 1

您调用了函数strcmp，但实际上实现的是需要对齐的memcmp(const void *a, const void *b, size_t words)。如果指针未与16B对齐，则movdqa和pcmpeqw xmm0, [mem]都将出错。 （实际上，如果a+4不是16B对齐的，因为您要执行前4个标量并增加4个字节。）

使用正确的启动代码和movdqu，您可以处理任意对齐（达到要用作pcmpeqw的内存操作数的指针的对齐边界）。为了方便起见，您可能需要两个指针都以宽字符对齐开头，但您不需要这样做（尤其是因为您只是返回true / false，而不是negative / 0 /
positive作为排序顺序。）



您是在问SSE2 pcmpeqw与pcmpistrm的性能，对吗？ （显式长度SSE4.2指令类似于pcmpestrm have worse throughput than the implicit-length versions，因此当您不靠近字符串的结尾时，请在主循环中使用隐式长度版本。请参见Agner Fog's instruction tables和microarch指南）。

对于memcmp（或精心实现的strcmp），在大多数CPU上，使用SSE4.2可以做到的最好比使用SSE2（或SSSE3）可以做到的最好。可能对非常短的字符串有用，但对memcmp的主循环却没有作用。

在Nehalem上：pcmpistri是4 uops，2c吞吐量（带有内存操作数），因此没有其他循环开销，它可以跟上内存的速度。 （Nehalem仅具有1个加载端口）。 pcmpestri的吞吐量为6c：慢3倍。

在通过Skylake的Sandybridge上，pcmpistri xmm0, [eax]的吞吐量为3c，因此，要使每个时钟保持1个矢量（2个加载端口）的速度太慢，就要加倍3倍。 pcmpestri在大多数情况下具有4c吞吐量，因此也没有那么糟糕。 （对于最后的部分矢量可能有用，但在主循环中无效）。

在Silvermont / KNL上，pcmpistrm是最快的，并且每14个循环吞吐量运行一次，因此它是简单事物的总垃圾。

在AMD Jaguar上，pcmpistri为2c吞吐量，因此它实际上可能是可用的（仅一个加载端口）。 pcmpestri是5c吞吐量，因此很糟糕。

在AMD Ryzen上，pcmpistri的吞吐量也为2c，因此很糟糕。 （2个加载端口和每个时钟前端吞吐量5 uop（或6 uop，如果有（或全部？）来自多uup指令）则意味着您可以提高速度。

在AMD Bulldozer系列中，pcmpistri的吞吐量为3c，直到Steamroller的吞吐量为5c。 pcmpestri的吞吐量为10c。它们被微编码为7或27 m-op，因此AMD并没有在它们上花费很多硅。

在大多数CPU上，仅当您充分利用它们来处理pcmpeq / pmovmskb不能做到的事情时，才值得这样做。但是，如果您可以使用AVX2或尤其是AVX512BW，则在更宽的向量上使用更多的指令，即使执行复杂的操作也可能更快。 （没有SSE4.2字符串指令的较宽版本。）也许SSE4.2字符串指令对于通常处理短字符串的函数仍然有用，因为宽向量循环通常需要更多的启动/清除开销。同样，在一个不需要花费太多时间在SIMD循环中的程序中，在一个小的功能中使用AVX或AVX512仍然会在下一毫秒左右降低您的最大Turbo时钟速度，并且很容易造成净损失。



良好的内部循环应成为负载吞吐量的瓶颈，或者尽可能接近。 movqdu / pcmpeqw [one-register] / pmovmskb / macro-fused-cmp + jcc仅有4个融合域uops，因此在Sandybridge系列CPU上几乎可以实现



有关实现和一些基准，请参见https://www.strchr.com/strcmp_and_strlen_using_sse_4.2，但这是针对C样式的隐式长度字符串的，您必须在其中检查0字节。看起来您正在使用显式长度的字符串，因此在检查长度相等之后，它只是memcmp。 （或者，我想如果您需要查找排序顺序而不是仅等于/不等于，那么您必须将memcmp移到较短的字符串的末尾。）

对于具有8位字符串的strcmp，在大多数CPU上，最好不使用SSE4.2字符串指令。请参阅strchr.com文章上的评论以获取一些基准测试（该隐式长度字符串版本的基准测试）。例如，glibc不使用strcmp的SSE4.2字符串指令，因为它们在大多数CPU上都不快。他们可能是strstr的胜利。



glibc有几个SSE2 / SSSE3 asm strcmp和memcmp implementations。 （它是LGPL格式的，因此您不能将其复制到非GPL项目中，而要看看它们的作用。）一些字符串函数（如strlen）仅每64个字节分支一次，然后返回进行排序缓存行中的哪个字节被命中。但是他们的memcmp实现只是通过movdqu / pcmpeqb展开。您可以使用pcmpeqw，因为您想知道第一个16位元素的位置，而不是第一个字节的位置。



您的SSE2实现可能更快。您应该对movdqa使用索引寻址模式，因为它不会与pcmpeqw微融合（在Intel Sandybridge / Ivybridge上；在Nehalem或Haswell +上很好），但是pcmpeqw xmm0, [eax]将保持微融合而不分层。

您应该展开几次以减少循环开销。您应该将指针增量与循环计数器结合使用，以便在更多CPU上使用cmp/jb而不是sub/ja：宏融合，并避免写入寄存器（减少寄存器重新命名所需的物理寄存器数量）。

您在Intel Sandybridge / Ivybridge上的内部循环将运行

@@To1:
movdqa xmm0, DQWORD PTR [eax]       // 1 uop
pcmpeqw xmm0, DQWORD PTR [eax+edx] // 2 uops on Intel SnB/IvB, 1 on Nehalem and earlier or Haswell and later.
pmovmskb ebx, xmm0                // 1 uop
cmp ebx, 65535
jne @@Final                     // 1 uop  (macro-fused with cmp)
add eax, 16                    // 1 uop
sub ecx, 8
{ AnsiChar  : sub ecx, 16 }
ja @@To1                     // 1 uop (macro-fused with sub on SnB and later, otherwise 2)

这是7个融合域的指令，因此在主流Intel CPU上，它只能从前端以每次迭代的最佳7/4周期发出。这与每个时钟2个负载的瓶颈相去甚远。在Haswell及更高版本上，每个迭代为6/4个周期，因为索引寻址模式可以与2操作数加载修改指令（如 pcmpeqw）保持微融合，但不能与其他任何内容（如 pabsw xmm0, [eax+edx]（不会读取目标） ）或AVX vpcmpeqw xmm0, xmm0, [eax+edx]（3个操作数））。请参见 Micro fusion and addressing modes。



对于设置和清理效果更好的小型字符串，这也可能更有效。

在指针设置代码中，如果先检查NULL指针，则可以保存 cmp。您可以 sub / jne用相同的宏融合比较和分支减去并检查两者是否相等。 （它只能在Intel Sandybridge系列上进行宏熔断，并且只有Haswell可以在单个解码块中进行2次宏熔断。但是Haswell / Broadwell / Skylake CPU很常见，并且变得越来越普遍，这对其他处理器没有不利影响CPU，除非等号指针如此普遍，以至于首先进行检查很重要。）



在返回路径中：尽可能始终使用 xor eax,eax to zero a register，而不要使用 mov eax, 0。

您似乎并没有避免从字符串末尾开始读取。您应该使用在页面末尾（未映射下一页）结尾的字符串测试函数。

对于早期标量测试， xor ebx, [eax + edx]与 cmp相比具有零优势。 cmp/jnz可以与jcc宏融合，但 xor不能。



您加载一个掩码以进行清理，以覆盖您读取字符串末尾之后的情况。您可能仍然可以使用通常的 bsf在位图中找到第一个差异。我想用 not反转它以找到不相等的第一个位置，并检查它是否小于剩余的字符串长度。

我想也可以使用 mov eax, -1和 shr动态生成蒙版。或为了加载它，有时可以使用滑动窗口到 ...,0,0,0,-1,-1,-1,...数组中，但是需要亚字节偏移量，以使其不起作用。 （如果要蒙版并重做 pmovmskb。 Vectorizing with unaligned buffers: using VMASKMOVPS: generating a mask from a misalignment count? Or not using that insn at all，则它对于矢量蒙版非常有效）。

只要不缓存未命中，您的方法就不错。我可能会即时生成蒙版。也许在另一个寄存器中的循环之前，因为您可以屏蔽以获得 count % 8，所以屏蔽生成可以与循环并行进行。