c++ - 异常 : meaningless REX prefix used

Question

错误 ANOMALY: meaningless REX prefix used 是什么意思？我已经用谷歌搜索了，我得到的所有信息都是完全随机的，它与 java 或 avg 或 minecraft 有关(因为 java)。

但是，在我合并我的 c++ opengl 4.0 图形引擎的几个分支后，我的 Visual Studio 控制台应用程序的控制台输出中出现了这个错误，它突然弹出。我可能在编写它们的时间点之间更新了 AMD 图形驱动程序，因此这可能是一个来源。弹出错误后，深度缓冲区测试也突然被禁用。

在 visual studio 中使用 clean 和 rebuild 后，错误现在消失了，因此我不需要帮助来修复错误，但我想知道它的含义以及导致此错误的一般原因。这让我很好奇，因为我没有找到任何有用的搜索此错误的方法。

Answer 1

Myria 在评论中说:

It's referring to an x86-64 assembly instruction using a REX prefix byte when it didn't need to

为了扩展这一点，REX 前缀在一些不同的场景中被忽略。

1. 如果 ModR/M 字段指定其他寄存器或扩展操作码。

2. 如果一条指令中使用了超过 1 个 REX 前缀(尽管我在 osdev.org 上读到，这是未定义的

3. 如果不遵循常规范式。例如，REX 前缀必须在操作码或转义操作码字节之前，除非与强制性前缀一起使用。在这种情况下，REX 可以紧跟在操作码/转义字节之后。

4. 如果您尝试在 64 位模式下使用单字节形式的 INC/DEC。

看起来这条异常消息显示在从 git 到 Java 的各种上下文中相关程序(可能是您正在引用的程序)，其中新驱动程序似乎是问题所在。罪魁祸首:Raptr，它带有 AMD 的 Radeon 驱动程序。在 Java 帖子中，有人报告使用 SAPPHIRE Radeon HD 5850，在我将链接到的下一个网站上，一个人使用 AMD R9 390，另一个人使用 380。在这种情况下，有人在他们的 64-bit Win7 的控制台上看到了消息。系统。现在这个人的网站让我了解了 Raptr 正在使用的一个钩子(Hook)(它连接到 opengl32.dll)，名为 mhook。 ，我开始挖掘这个“Windows API Hook 库”并找到了这个 starting on line 1230 :

assert(X86Instruction->AddressSize >= 4);
    if (X86Instruction->rex.w)
    {
        X86Instruction->OperandSize = 8;
        X86Instruction->HasOperandSizePrefix = FALSE;
    }
    else if (X86Instruction->HasOperandSizePrefix)
    {
        assert(X86Instruction->OperandSize == 2);
    }
    else if (X86Instruction->rex_b == REX_PREFIX_START)
    {
        if (!Instruction->AnomalyOccurred)
        {
            if (!SuppressErrors) printf("[0x%08I64X] ANOMALY: meaningless REX prefix used\n", VIRTUAL_ADDRESS);
            Instruction->AnomalyOccurred = TRUE;
        }
        X86Instruction->rex_b = 0;
    }

总而言之，当软件处理忽略 REX 前缀时会出现此异常消息，就像这个 Windows API 库所做的那样。

好了，您来对地方了。 mhook 库甚至有一长串要忽略的 Visual Studio 文件。
附加说明*我从 os2museum 找到了这条评论找到一个很好的线索来解开这整个谜团

The Windows amd64 ABI requires that the first opcode of a function be at least 2 bytes in length. (I think this is so the function can be hotpatched.) Many times the first instruction is “push ” but the instruction has a 1-byte encoding! To comply with the ABI, a rex prefix is added to the instruction, making it 2 bytes — “rex push rbp” or “rex push rbx” or whatever. The compiler does this for you, but if you are writing a function in assembler, you need to remember the rule.

这个特定的钩子(Hook)库中的其他有趣的错误消息(只是其中的一些!)

异常:无意义的段覆盖

异常:REX 前缀在旧版前缀 0x%02X 之前\n

异常:前缀冲突\n

异常:达到最大前缀计数 %d\n

还有我最喜欢的:

异常:分支到指令的中间\n

只是因为我情不自禁，可能值得注意的是这些是默认为 64 位操作数的指令:

+--------------+------------+-------------+| CALL (near)  | ENTER      | Jcc         |+--------------+------------+-------------+| JrCXZ        | JMP (near) | LEAVE       |+--------------+------------+-------------+| LGDT         | LIDT       | LLDT        |+--------------+------------+-------------+| LOOP         | LOOPcc     | LTR         |+--------------+------------+-------------+| MOV CR(n)    | MOV DR(n)  | POP reg/mem |+--------------+------------+-------------+| POP reg      | POP FS     | POP GS      |+--------------+------------+-------------+| POPFQ        | PUSH imm8  | PUSH imm32  |+--------------+------------+-------------+| PUSH reg/mem | PUSH reg   | PUSH FS     |+--------------+------------+-------------+| PUSH GS      | PUSHFQ     | RET (near)  |+--------------+------------+-------------+