c - 试图对一个函数进行逆向工程

Question

我想更多地了解 x86 中的汇编。我这里有一个神秘函数，我知道它返回一个 int 并接受一个 int 参数。所以它看起来像 int mystery(int n){}。但是我无法弄清楚C中的功能。程序集是:

mov  %edi, %eax
lea  0x0(,%rdi, 8), %edi
sub  %eax, %edi
add  $0x4, %edi
callq < mystery _util >
repz retq

< mystery _util >
mov  %edi, %eax
shr  %eax
and  $0x1, %edi
and  %edi, %eax
retq

我不明白 lea 在这里做什么，它可能是什么功能。

Answer 1

汇编代码似乎是计算机生成的，并且可能是由 GCC 编译的，因为在无条件分支(call)之后有一个 repz retq。还有一个迹象表明，因为在转到 mystery_util 时没有尾部调用 (jmp) 而不是 call 代码是使用 -O1 编译(更高的优化级别可能会内联这里没有发生的函数)。缺少帧指针和额外的加载/存储表明它不是用 -O0

编译的

将 x 乘以 7 与将 x 乘以 8 再减去 x 是一样的。这就是以下代码所做的:

lea  0x0(,%rdi, 8), %edi
sub  %eax, %edi

LEA可以计算地址，但它也可以用于简单的算术运算。内存操作数的语法是位移(基数、索引、比例)。 scale 可以是 1, 2, 4, 8。计算是 displacement + base + index * scale。在你的情况下 lea 0x0(,%rdi, 8), %edi 实际上是 EDI = 0x0 + RDI * 8 或 EDI = RDI * 8。完整的计算是 n * 7 - 4;

mystery_util 的计算似乎只是

n &= (n>>1) & 1;

如果我将所有这些因素放在一起，我们就有一个函数 mystery 将 n * 7 - 4 传递给一个名为 mystery_util 的函数，该函数返回 n &= ( n>>1) & 1.

由于 mystery_util 返回单个位值(0 或 1)，因此 bool 是返回类型是合理的。

我很好奇我是否可以获得具有优化级别 1 (-O1) 的特定版本的 GCC 来重现此汇编代码。我发现 GCC 4.9.x 将为这个给定的 C 程序生成这个精确的汇编代码:

#include<stdbool.h>

bool mystery_util(unsigned int n)
{
    n &= (n>>1) & 1;
    return n;
}

bool mystery(unsigned int n)
{
    return mystery_util (7*n+4);
}

汇编输出为:

mystery_util:
        movl    %edi, %eax
        shrl    %eax
        andl    $1, %edi
        andl    %edi, %eax
        ret
mystery:
        movl    %edi, %eax
        leal    0(,%rdi,8), %edi
        subl    %eax, %edi
        addl    $4, %edi
        call    mystery_util
        rep ret

您可以在 godbolt 上使用此代码.

---

重要更新 - 没有 bool 的版本

我显然在解释这个问题时犯了错误。我假设问这个问题的人自己确定 mystery 的原型(prototype)是 int mystery(int n)。我以为我可以改变它。根据related question一天后在 S​​tackoverflow 上询问，似乎 int mystery(int n) 作为作业的一部分作为原型(prototype)提供给您。这很重要，因为这意味着必须进行修改。

需要进行的更改与mystery_util 相关。在要进行逆向工程的代码中有以下几行:

mov  %edi, %eax
shr  %eax

EDI 是第一个参数。 SHR 是逻辑右移。只有当 EDI 是 unsigned int(或等价物)时，编译器才会生成它。 int 是一个带符号的类型，会生成 SAR(算术右移)。这意味着 mystery_util 的参数必须是 unsigned int(并且返回值可能是 unsigned int。这意味着代码看起来像这样:

unsigned int mystery_util(unsigned int n)
{
    n &= (n>>1) & 1;
    return n;
}

int mystery(int n)
{
    return mystery_util (7*n+4);
}

mystery 现在有你的教授给出的原型(prototype)(bool 被移除)我们使用 unsigned int 作为参数和返回类型mystery_util。为了使用 GCC 4.9.x 生成此代码，我发现您需要使用 -O1 -fno-inline。此代码可在 godbolt 上找到.程序集输出与使用 bool 的版本相同。

如果您使用 unsigned int mystery_util(int n)，您会发现它并没有完全输出我们想要的:

mystery_util:
        movl    %edi, %eax
        sarl    %eax          ; <------- SAR (arithmetic shift right) is not SHR
        andl    $1, %edi
        andl    %edi, %eax
        ret