Openssl RSA C中的加密和解密

Question

我有一个示例代码，该代码使用PEM私钥对消息进行加密，然后使用PEM公钥对消息进行解密，但最终解密结果为空。

    const char * msg = "this is a test message";
    //********************Encrypt*******************************
    if ((pFile = fopen("private.pem", "rt")) &&
        (rsa = PEM_read_RSAPrivateKey(pFile, NULL, passwd_callback, (void*)pcszPassphrase)))
    {
        fprintf(stderr, "Private key read.\n");

        RSA_private_encrypt(strlen(msg), (unsigned char *)msg, encrypted, rsa, RSA_PKCS1_PADDING);
        fclose(pFile);
    }
    //********************Decrypt*******************************
    pFile = fopen("pubkey.pem", "rt");
    if (rsa = PEM_read_RSAPublicKey(pFile, NULL, NULL, NULL))
    {
        RSA_public_decrypt(strlen((char *)encrypted), encrypted, decrypted, rsa, RSA_PKCS1_PADDING);
        ERR_load_crypto_strings();
        char * err = (char *)malloc(130);
        ERR_error_string(ERR_get_error(), err);
        fprintf(stderr, "Error decrypting message: %s\n", err);
    }

结果是RSA_public_decrypt的输出为1，但解密的字符串为空。

错误消息： 错误解密消息：错误：0407008A：rsa例程：RSA_padding_check_PKCS1_type_1：无效的填充

Answer 1

您输入的消息msg是一个以空终止的字符串，但是当您对其进行加密以获取encrypted缓冲区时，它将是二进制缓冲区，传递给RSA_public_decrypt（）的strlen（encrypted）将无效。

所以改变

RSA_public_decrypt(strlen((char *)encrypted), encrypted, 
decrypted, rsa, RSA_PKCS1_PADDING);

至

RSA_public_decrypt(RSA_size(rsa), encrypted, 
decrypted, rsa, RSA_PKCS1_PADDING);