c++ - 导致段错误的共享库

Question

我创建了一个小型共享库，它会重载 malloc 和 co。它编译成功，但是当我尝试用它执行其他程序时，它会导致段错误。

到目前为止，我尝试解决问题所采取的步骤:

1. Make sure the .so is executable.
2. Tried debugging using Valgrind and gdb.(see GDB output below)
3. Looked at other related questions on SO and tried to adopt the suggestions given. 

用

执行 Test.cpp

 LD_PRELOAD=/home/absolute/path/mylib.so ./a.out 

导致段错误。

测试.cpp

#include <stdlib.h>
#include <iostream>

int main () {

  size_t size = sizeof(int);
  void* ptr = malloc(size);
  std::cout<<"Called malloc() " << ptr << std::endl;
  free(ptr);
return 0;

这是我的一些共享库代码:

#include <stdio.h>
#include <unistd.h>
#include <sys/types.h>
#include <dlfcn.h>
#include <iostream>

#include "runtime/Firstfit_heap.h"
#include "system/Auslagern.h"
#include "system/VirtualMem.h"

extern "C" {
    void* malloc(size_t size) noexcept;
 }

 Auslagern swap(4,6);
 VirtualMem mem(4, 6, swap, true);
 Firstfit_heap heap(mem);

 void* malloc(size_t size) noexcept{

        void* handle = (void*) -1l;
        auto fptr = (void* (*)(size_t))dlsym(handle, "malloc");
        if (fptr == NULL) {
            return NULL;
        }
        char* foo = "malloc\n";
        write(2, foo, 7);
     // I THINK THE ERROR IS IN THE NEXT LINE BECAUSE "malloc" is printed to the console before the segfault(core dump)
        void* ptr  = fptr(size);
        std::cout<<"malloc"<<std::endl;
        return ptr;
      }

所有 .cpp 文件的编译和链接标志(在 makefile 中):

  CXXFLAGS = -fPIC -g -Wall -std=c++1z
  LDFLAGS = -shared
  LIBS = $(XLIBS) $(PTHREADLIBS) -lboost_program_options -lrt -lc -ldl

Gdb 输出:

Program received signal SIGSEGV, Segmentation fault.
0x0000000000000002 in ?? ()

Valgrind 输出:

 ==19131== Jump to the invalid address stated on the next line
 ==19131==    at 0x2: ???
 ==19131==    by 0xFFF000082: ???
 ==19131==    by 0xFFF000092: ???
 ==19131==  Address 0x2 is not stack'd, malloc'd or (recently) free'd
 ==19131== 
 ==19131== 
  ==19131== Process terminating with default action of signal 11 (SIGSEGV)
 ==19131==  Bad permissions for mapped region at address 0x2
 ==19131==    at 0x2: ???
 ==19131==    by 0xFFF000082: ???
 ==19131==    by 0xFFF000092: ???

因为没有 mylib.so 的代码，所以我无法判断哪条指令试图寻址 0x2，也无法想到任何可以帮助我更接近解决方案的方法。任何指向我写作方向的帮助都会非常有用。

TIA。

Answer 1

这段代码:

void* malloc(size_t size) noexcept {
    auto fptr = (void* (*)(size_t))dlsym(handle, "malloc");

保证在任何本身malloc内存的dlsym实现上永远重复并耗尽堆栈。

这段代码:

    void* ptr  = fptr(size);
    std::cout<<"malloc"<<std::endl;

保证对本身malloc内存的任何std::cout实现做同样的事情。

在 Linux 上，您的程序崩溃不是因为上述两个原因，而是因为 std::cout 在 libstdc++.so.6 本身被初始化之前被调用。

TL;DR:malloc 在过程的早期被调用，您需要非常小心可以从其实现中调用哪些函数。最好将自己限制在系统调用中。

附言您应该学习使用调试器(例如 GDB)。 Valgrind 不是解决此类问题的最佳工具。

Gdb output:

Program received signal SIGSEGV, Segmentation fault.
0x0000000000000002 in ?? ()

这告诉您程序跳转到地址 0x2 并崩溃(该地址没有可执行代码)。

您的第一个问题应该是“我是怎么到这里的？”，最有可能回答这个问题的命令是 where 或 backtrace。

附言这段代码:

char* foo = "malloc\n";

甚至不应该使用任何合理的 C++ 编译器进行编译。