java - RSA_verify中预期的数据类型是什么，无法验证从Java生成的签名

Question

我使用以下命令在Java上创建签名：

String message = "my message";
byte[] data = message.getBytes();
byte[] result;
Signature sig = Signature.getInstance("SHA512withRSA");
sig.initSign(this.privateKey);
sig.update(data);
result = sig.sign();

然后，将结果作为十六进制字符串保存到文本文件中，并使用openssl尝试验证：

string signature//read hex string in the text file 
string message = "my message";
RSA *rsaPkey = NULL;

FILE *pemFile;
fopen_s(&pemFile, publicKeyFile, "r");
rsaPkey = PEM_read_RSA_PUBKEY(pemFile, &rsaPkey, NULL, NULL);
fclose(pemFile);

if(rsaPkey == NULL)
{
    RSA_free(rsaPkey);
    return 0;
}

int type                = NID_sha512;
const char *m           = message.c_str();
unsigned int m_len      = message.length();
int size                = RSA_size(rsaPkey);
unsigned char *sigret   = (unsigned char*) signature.c_str();
unsigned int siglen     = signature.length();

unsigned char digest[SHA512_DIGEST_LENGTH];

SHA512_CTX ctx;
SHA512_Init(&ctx);
SHA512_Update(&ctx, m, m_len);
SHA512_Final(digest, &ctx);

int r = RSA_verify(type, digest, SHA512_DIGEST_LENGTH, sigret, siglen, rsaPkey);

r始终为0，表示验证失败。我认为这是因为它期望消息或签名采用特定格式，而不是我从Java获得的十六进制格式，但我不知道该怎么做。

更新

在按照Pras的建议使用摘要之后，当我使用ERR_get_error时出现此消息错误：
error:04091068:rsa routines:INT_RSA_VERIFY:bad signature

Answer 1

从RSA_verify（）手册页：


  RSA_verify（）验证大小为siglen的签名sigbuf是否匹配
  大小为m_len的给定消息摘要m。类型表示消息
  用于生成签名的摘要算法。 rsa是
  签名者的公钥。


因此，第二个和第三个参数应该是消息摘要和摘要长度，而不是实际的消息和已签名的消息长度