c++ - 使用 GetProcAddress : callback function fails with invalid parameter 从 C++ 调用 Delphi DLL

Question

我有一个从 C++ 调用的第 3 方 Delphi DLL。不幸的是，我无法访问 Pascal DLL 代码，也不是 Pascal 程序员。

没有 lib 文件，所以我使用 GetProcAddress 调用许多 DLL 函数，成功地通过值、地址和引用传递参数。我还注册了一个回调函数，它会在预期时被调用。

我的问题是在回调函数中，无法评估两个参数之一(地址 0x000001)。

这是 Pascal DLL 函数声明

type
HANDLE = Pointer;       /// handle

(** This function Registers the callback function OnACLNeeded 
  *)
function RegisterCallback(
    h: HANDLE; 
    OnACLNeeded: MyCallbackFunc; 
    UserData: DWORD): Integer; stdcall;

这是调用应用程序的 Pascal 版本，回调函数。 两个参数均通过引用 (var) 传递。

function TSNAPICongigF.OnACLNeeded(var keySettings, numOfKeys: Byte): Integer; stdcall;
begin
  keySettings:=$0F;
  numOfKeys:=1;
  Result:=0;
end;

这是我的回调函数的C++版本

int __stdcall OnACLNeeded(byte& keySettings, byte& numOfKeys)
{
  keySettings = 0x0F;
  numOfKeys = 1;
  return 1;
}

这是我的C++调用代码

int _tmain()
{
    HMODULE hLib = LoadLibrary(PASCAL_DLL);

    // DLL function pointer 
    typedef int (__stdcall *FnRegisterCallback)(HANDLE hKeyProvider,
        int (__stdcall *)(byte&, byte&),
        DWORD);

    FnRegisterCallback pfnRegisterCallback =
        (FnRegisterCallback)GetProcAddress(hLib, "RegisterCallback");

    // register my callback function
    int ret = (*pfnRegisteraCllback)(h, OnACLNeeded, (DWORD)1);
}

在调试器中运行时，到达回调函数第一行的断点 keySettings = 0x0F;
我发现 numOfKeys 是有效的，但是 keySettings 的地址为 0x00000001，无法分配给
如果我继续，应用程序将因 AccessViolation 而崩溃。

int __stdcall OnACLNeeded(byte& keySettings, byte& numOfKeys)
{
    keySettings = 0x0F;

我试过声明为 __cdecl 无效。
我已经尝试将字节参数声明为 byte*，但我得到了相同的无效参数。

我正在使用在 Win7 64 位上运行的 Visual Studio 2010，但编译为 Win32。
这些是我的编译和链接命令

/ZI /nologo /W3 /WX- /Od /Oy- /D "WIN32" /D "_DEBUG" /D "_CONSOLE" /D "_UNICODE" /D "UNICODE" /Gm /EHsc /RTC1 /GS /fp:precise /Zc:wchar_t /Zc:forScope /Fp"Debug\CallPascal.pch" /Fa"Debug\" /Fo"Debug\" /Fd"Debug\vc100.pdb" /Gd /analyze- /errorReport:queue 

/OUT:"...\Debug\CallPascal.exe" /INCREMENTAL /NOLOGO "kernel32.lib" "user32.lib" "gdi32.lib" "winspool.lib" "comdlg32.lib" "advapi32.lib" "shell32.lib" "ole32.lib" "oleaut32.lib" "uuid.lib" "odbc32.lib" "odbccp32.lib" /MANIFEST /ManifestFile:"Debug\CallPascal.exe.intermediate.manifest" /ALLOWISOLATION /MANIFESTUAC:"level='asInvoker' uiAccess='false'" /DEBUG /PDB:"...\Debug\CallPascal.pdb" /SUBSYSTEM:CONSOLE /PGD:"...y\Debug\CallPascal.pgd" /TLBID:1 /DYNAMICBASE /NXCOMPAT /MACHINE:X86 /ERRORREPORT:QUEUE

非常感谢收到任何建议。谢谢。

------ 编辑 -----

我添加了结构

struct Bodge {
  void* code;
  void* instance;
};

Bodge bodge;

bodge.code = OnACLNeeded;
bodge.instance = (void*)0x99; // just to test

我的回调变成了

Integer __stdcall OnACLNeeded(void* instance, Byte& keySettings, Byte& numOfKeys);

我注册回调的函数调用变成了

typedef Integer (__stdcall *FnRegisterCallback)(
    HANDLE,
    Bodge,
    DWORD);

这样称呼

ret = (*pfnRegisterCallback)(
    h, 
    bodge, 
    (DWORD)1);

这个调用产生了一个错误

The value of ESP was not properly saved across a function call. This is usually a result of calling a function declared with one calling convention with a function pointer declared with a different calling convention.

我认为这也可能表示堆栈损坏。
但是，如果我忽略错误并继续，我将进入回调函数主体，并且两个参数现在都有效!
这是一种成功，而且 void* instance 参数的值为零，而不是我设置的 0x99。
我觉得我们正在实现目标!

-----编辑-----

这是用于注册回调的函数调用，来自原始的 Pascal 调用代码。

  * @param hKeyProvider the key provider handle for Desfire card created previously with LASSeOKeyProvider_CreateHandle
  * @param OnACLNeeded supplies a callback to be called for quering host application for the PICC master key settings
  * @param UserData unsigned integer values specifiing any custom provided data to be returned when the callback is called
  * @return 0 - on success; <>0 - denotes error code

  RegisterCallback(hKeyProv,
                  @TSNAPICongigF.OnACLNeeded,
                  (Self));

注意“self”引用。什么是 C++ 等价物？ (我没有使用类(class))

Answer 1

问题是回调的Delphi版本是一个实例方法。你的 C++ 没有回调它。这是一个严重的不匹配。这个 Delphi 接口(interface)设计得很糟糕，不经过一些技巧就无法从 C++ 调用。

Delphi 实例方法作为两个指针传递，一个指向代码，一个指向实例。您可以通过像这样声明 RegisterCallback 函数在 C++ 中伪造它:

typedef int (__stdcall *FnRegisterCallback)(
    HANDLE hKeyProvider,
    void* code,
    void* instance,
    DWORD
);

然后，使用 GetProcAddress 加载它后，像这样调用它:

int ret = (*pfnRegisterCallback)(h, OnACLNeeded, NULL, (DWORD)1);

instance 参数是什么并不重要，因为当它传递给 OnACLNeeded 时我们将忽略它。

最后一步是安排您的函数的行为类似于 Delphi 实例方法。通过添加一个额外的参数来表示实例来做到这一点。

int __stdcall OnACLNeeded(void* instance, byte& keySettings, byte& numOfKeys)
{
    keySettings = 0x0F;
    numOfKeys = 1;
    return 1;
}

您将在 instance 参数中收到，无论您在调用 RegisterCallback 时作为 instance 参数传递什么。

通过这些更改，您应该能够伪造出 Delphi DLL，使您相信您的代码是 Delphi 实例方法!

作为引用，我建议您阅读 Program Control Delphi 语言指南的主题。

最后，祝你好运!

---

更新

对该问题的最新编辑为正在发生的事情提供了一些新的思路。特别是这段代码:

RegisterCallback(
    hKeyProv,
    @TSNAPICongigF.OnACLNeeded,
    DWORD(Self)
);

@TSNAPICongigF.OnACLNeeded 参数只生成方法的代码部分。那就是它只是一个指针。该实例在以下参数中通过 DWORD(Self) 传递。这段代码的作者所做的假设是回调函数将传递三个参数，用户数据后跟两个 var 字节。诀窍是这样的函数等同于方法调用，因为方法调用是通过在实际参数之前将实例作为隐藏的隐式参数传递而在幕后实现的。

所以，我相信你可以很容易地解决这个问题。只需一直回滚到您提出问题时代码所在的位置。然后更改您的回调函数以接受此额外参数:

int __stdcall OnACLNeeded(DWORD UserData, byte& keySettings, byte& numOfKeys)
{
    keySettings = 0x0F;
    numOfKeys = 1;
    return 1;
}

我现在相信这会奏效。

你可以这样调用注册函数:

int ret = (*pfnRegisteraCllback)(h, OnACLNeeded, (DWORD)1);

并且您的回调函数应该在 UserData 参数中看到 1 的值。