PInvoke FatalExecutionEngineError

本文关键字：FatalExecutionEngineError PInvoke | 更新日期: 2023-09-27 17:53:46

我使用PInvoke从c#代码访问c++库。但是我有问题使用以下函数:

UINT32 myfunc(IN char * var1, IN UINT32 var2, INOUT UINT16 * var3, OUT UINT8 * var4)

文档说:

返回参数是错误码

var1是一个字符串

var2是一个整数

var3是一个指向整数的指针(该值将是var4的大小，该值将由函数更改)

var4是一个指向缓冲区的指针，该缓冲区将由函数

填充。

当我使用

[DllImport("mydll.dll", CallingConvention = CallingConvention.Cdecl)]
public static extern int myfunc(string var1, int var2, out int var3, 
    out byte[] var4);

函数给出如下异常:

管理调试助手'FatalExecutionEngineError'在'C:'Users…'Documents'Projects…'bin'Debug…vshost.exe'中检测到一个问题。

附加信息:运行时遇到致命错误。错误的地址是0x74292e44，在线程0x2edc上。错误码为0xc0000005。此错误可能是CLR中的错误，也可能是用户代码中不安全或不可验证部分中的错误。此错误的常见来源包括COM-interop或PInvoke的用户封送错误，这可能会损坏堆栈。

如果有此异常的处理程序，则可以安全地继续执行程序。

我试着用参数工作，看看我是否能得到任何东西，我改变了字符集如下:

[DllImport("mydll.dll, CallingConvention = CallingConvention.Cdecl", CharSet = CharSet.Unicode)]
public static extern int myfunc(string var1, int var2, out int var3, out byte[] var4);

在这种情况下，它没有给出FatalExecutionEngineError，而是函数返回没有错误。但是返回值表明函数中发生了内部错误。(我不知道为什么字符集改变可以防止FatalExecutionEngineError)

我不知道我做错了什么，请帮帮我。

PInvoke FatalExecutionEngineError

p/invoke声明应该是这样的:

[DllImport("mydll.dll", CallingConvention = CallingConvention.Cdecl)]
public static extern int myfunc(
    string var1, 
    uint var2, 
    ref ushort var3, 
    byte[] var4
);

然后你这样称呼它:

string var1 = "...";
uint var2 = ...;
ushort var3 = 1024;//use whatever length buffer you want to pass
byte[] var4 = new byte[var3];
int retval = myfunc(var1, var2, ref var3, var4);
Array.Resize(ref var4, var3);

本机代码的工作方式是它期望调用代码分配缓冲区var4。调用代码表示var3中的缓冲区有多长。

当本机代码返回时，var3包含缓冲区的实际长度。或者可能是复制的字节数。前者更有用。假设是前者，那么你可以这样写:

string var1 = "...";
uint var2 = ...;
ushort var3 = 0;
int retval = myfunc(var1, var2, ref var3, null);
byte[] var4 = new byte[var3];
int retval = myfunc(var1, var2, ref var3, var4);

你应该检查返回值等

我不能100%确定如何调用这个函数，因为你的问题中没有足够的信息。至少p/invoke签名现在匹配你的c++代码了

这是一个潜在的非常危险的函数，它可以通过第4个参数任意地将垃圾喷射到内存中。如果它设计得很好(但愿如此)，那么它应该允许您首先测量所需的缓冲区大小。任意猜测:

[DllImport("mydll.dll, CallingConvention = CallingConvention.Cdecl", CharSet = CharSet.Ansi)]
public static extern int myfunc(string name, ref int var2, ref int buflen, IntPtr buf);
string name = "foo";
int var2 = 42; //???
int len = 0;
int error = myfunc(name, ref var2, ref len, IntPtr.Zero);
if (error == BUFFER_TOO_SMALL) {
    IntPtr buf = Marshal.AllocCoTaskMem(len);
    try {
       error = myfunc(name, ref var2, ref len, buf);
       if (error == OK) {
           var bytes = new bytes[len];
           Marshal.Copy(buf, bytes, 0, len);
           //...
       }
    }
    finally {
       Marshal.FreeCoTaskMem(buf);
    }
}
if (error != OK) handleError(error);

这是相当沉重的猜测。如果函数实际上不允许您首先请求所需的缓冲区大小，那么您应该更改C代码，使其像这样工作。只有这样才能安全地调用它

相关文章：
  • 没有找到相关文章