assembly - x86 左移算术溢出控制

Question

你知道有什么方法可以有效地检查 x86 左移算术上是否发生上溢/下溢吗？

Answer 1

一个不错的选择是在左移后执行算术移位右，看看是否得到相同的数字:

    mov ebx, eax      ; keep a copy of the original
    sal eax, cl         ;  TODO: also copy the shifted EAX somewhere
    sar eax, cl
    cmp ebx, eax      ;  (x << n) >> n == x
    jne overflow
 ; result: not stored anywhere by this snippet.

BMI2 3-operand shifts可以保存一些mov指令:

; input: x in EDI, shift count n in ESI
    shlx  eax, edi, esi       ; there is no salx, it's the same operation
    sarx  edx, eax, esi       ; (x << n) >> n
    cmp   edx, eax
    jne   overflow
   ; else EAX = x<<n  without overflow

---

(这部分答案是基于对规范的误读。)

如果您担心轮类计数太大而无法绕行，只需在轮类前检查轮类计数即可。如果移位计数大于位数，就会发生溢出。 (除了 8 位和 16 位移位，您可以根据需要移出所有位；对于 64 位以下的所有操作数大小，计数被屏蔽为 5 位。)

通常你会为此检查标志。但是，对于 SHL(或 SAL，这是相同的指令)，您不能真正依赖它们。查看软件开发人员手册，或 an HTML extract :

Flags Affected

The CF flag contains the value of the last bit shifted out of the destination operand; it is undefined for SHL and SHR instructions where the count is greater than or equal to the size (in bits) of the destination operand. The OF flag is affected only for 1-bit shifts (see “Description” above); otherwise, it is undefined. The SF, ZF, and PF flags are set according to the result. If the count is 0, the flags are not affected. For a nonzero count, the AF flag is undefined.

最好的方法是在移位前确保字节操作的移位计数为 <8，字为 <16，双字为 <32，四字为 <64。

---

使用 FLAGS 检测结果溢出:

如果移位计数不大于目标操作数，您可以检查 CF 标志以查看移出的最后一位。如果一次一位地执行移位，则可以在每次移位后测试 CF 以查看是否在任何一点移出 1，这表明发生了溢出。

但是那会检测到无符号溢出。要检测有符号溢出，当-1 (0x...ff) 变为-2 (0x...fe) 时不是问题.但关键是符号位没有改变。根据实际有符号溢出设置 OF 的 1 位移位，使用 OF ← MSB(DEST) XOR CF;

这只适用于一次移动 1 位； x86 甚至没有为 1 以外的移位计数定义 OF 的值，遗憾的是没有记录沿途是否发生任何符号翻转。