c++ - 从 C++/Win32 DLL 中 P/调用函数时获取 AccessViolationException

Question

我正在尝试从 C++/Win32 dll 中 P/Invoke 一个函数，但是每当我调用它时，我都会收到以下错误:

System.AccessViolationException occurred
  HResult=-2147467261
  Message=Attempted to read or write protected memory. This is often an indication that other memory is corrupt.
  Source=mscorlib
  StackTrace:
       at System.StubHelpers.MngdNativeArrayMarshaler.ConvertContentsToManaged(IntPtr pMarshalState, Object& pManagedHome, IntPtr pNativeHome)
  InnerException: (Nothing)

显示调用堆栈(使用非托管调试):

ZaRCon.exe!ZaRCon.Huffman.Encode(Byte() Array) 第 50 行 + 0x15 字节

这似乎是参数 的问题(由于 MngdNativeArrayMarshaler.ConvertContentsToManaged() 调用)。我曾尝试更改参数的声明但没有成功。一开始我在转换它们时遇到了麻烦，所以在对其他 Stack Overflow 问题进行了一些研究之后，我得出了以下结论。

C++函数声明:

void __declspec(dllexport) HUFFMAN_Encode( unsigned char *in, unsigned char *out, int inlen, int *outlen );

VB.NET P/调用:

<DllImport("HuffmanNative.dll", CallingConvention:=CallingConvention.Cdecl, CharSet:=CharSet.Ansi)> _
Private Shared Sub HUFFMAN_Encode(<MarshalAs(UnmanagedType.LPArray)> [in] As Byte(), _
                                   <MarshalAs(UnmanagedType.LPArray)> ByRef [out] As Byte(), _
                                    ByVal inlen As Integer, ByRef outlen As Integer)
End Sub

我怎么调用它:

Public Shared Function Encode(ByVal Array As Byte()) As Byte()
    Dim Output As Byte() = New Byte(4096 - 1) {}
    Dim OutputLength As Integer = 0
    HUFFMAN_Encode(Array, Output, Array.Length, OutputLength) 'The error occurs on this line.
    Return Output
End Function

C++ 函数用于使用特殊版本的霍夫曼算法对通过网络发送的数据进行编码。

我不确定调用函数时是否抛出错误...在用 C# 创建测试版本后(这给了我各种非常不同的结果)我能够在源代码中找到一行，但是我不确定它是否与使用 VB.NET 时抛出的错误相同:

void HUFFMAN_Encode( unsigned char *in, unsigned char *out, int inlen, int *outlen )
{
    int i,j,bitat;
    unsigned int t;
    bitat=0;
    for (i=0;i<inlen;i++)
    {
        t=HuffLookup[in[i]].bits;
        for (j=0;j<HuffLookup[in[i]].len;j++)
        {
            huffman_PutBit(out+1,bitat+HuffLookup[in[i]].len-j-1,t&1);
            t>>=1;
        }
        bitat+=HuffLookup[in[i]].len;
    }
    *outlen=1+(bitat+7)/8;
    *out=8*((*outlen)-1)-bitat; //<-- The error I got when using C# was thrown here.
    if(*outlen >= inlen+1)
    {
        *out=0xff;
        memcpy(out+1,in,inlen);
        *outlen=inlen+1;
    }
}

所以我的猜测是我发送给函数的字节数组没有正确转换为 native unsigned char 指针数组。但如果是这样的话，P/Invoke应该怎么执行呢？如果不是这种情况，可能是什么问题？

Answer 1

从第二个参数中删除 ByRef 并且 p/invoke 声明与 native 代码匹配。

当没有文本时，指定 CharSet 也没什么意义。 MarshalAs 属性也不是必需的。