c# - DllImport 返回空终止字符串 AccessViolationException

Question

我正在尝试与实现多个函数的 Dll 进行交互，其中一个采用以空字符结尾的字符串和一个 int，并返回以空字符结尾的字符串。我试图与这样的方法交互:

[DllImport(dll_loc)]
[return : MarshalAs(UnmanagedType.LPStr)]
public static extern StringBuilder GetErrorMessage([MarshalAs(UnmanagedType.LPStr)]
                                                       StringBuilder message, 
                                                       int error_code);

然后我尝试像这样调用方法:

StringBuilder message = new StringBuilder(1000);
StringBuilder out2 = new StringBuilder(1000);
out2 = GetErrorMessage(message, res0);

但是，当我尝试这样做时，抛出一个 AccessViolationException 告诉我我正在尝试访问 protected 内存。

我成功地声明了一个不同的方法:

[DllImport(dll_loc)]
public static extern int GetVersion([MarshalAs(UnmanagedType.LPStr)]
                                        StringBuilder version);

并以相同的方式调用它，但该方法不适用于当前函数调用。

我还尝试返回一个 IntPtr，因为文档在技术上说该方法返回一个指向字符串缓冲区第一个字符的指针，但无济于事。

有没有人知道这里可能出了什么问题？这两种方法之间可能有什么不同导致 dll 尝试访问它不应该访问的内存。或者，您建议如何调试此问题？

Answer 1

返回字符串的 C 函数是一个内存管理问题。 C 字符串需要一个数组，并且在使用字符串后需要释放该数组的内存。这使得此类函数很难在 C 程序中使用，几乎不可能与 pinvoke 一起使用。这也是一个经典的 C 错误，返回一个指向堆栈上字符串的指针。

pinvoke 编码器将根据需要尝试释放返回的字符串，以避免内存泄漏。它将使用 CoTaskMemFree()。这通常不会有好结果，C 代码很少实际使用 CoTaskMemAlloc 为数组分配内存。在 XP 上，这将导致静默内存泄漏。 Vista 和 Win7 有更严格的堆管理器，如果附加了非托管调试器，它们将调用调试中断。接下来用 AccessViolation 轰炸程序。

您可以通过将返回类型声明为 IntPtr 并自行编码字符串来避免自动编码行为。通常与 Marshal.PtrToStringAnsi() 一起使用。但是你仍然面临释放内存的任务。你不能，你没有 CRT 堆的句柄，你不能调用 free()。

返回字符串的 C 函数应该使用传递字符串缓冲区的参数来声明。还有一个参数说明缓冲区有多大。像这样:

 int GetErrorMessage(int errorCode, char* buffer, size_t bufferSize);

现在很简单，调用者可以为缓冲区分配内存并释放它。而 C 函数只是将字符串复制到缓冲区中。返回值可用于告知复制了多少个字符，或指示需要更大的缓冲区。不要忽略 bufferSize 参数，缓冲区溢出是致命的，会引发可怕的 FatalExecutionEngineError 异常，该异常与 AV 一样不可调试，因为 GC 堆损坏直到很久以后才被检测到。您在 C# 端使用 StringBuilder，适本地使用非零容量进行初始化。 bufferSize 的值。