Цифровая подпись с openssl

В стороне: ssh-keygen -m есть только в относительно последних версиях OpenSSH, гораздо более поздних, чем я ожидал от CentOS 3.9. Вы использовали какой-то сторонний репозиторий или строили его сами или что-то в этом роде? Тем не мение...

То, что OpenSSH называет «PEM», здесь не используется в PEM OpenSSL.

Справочная информация: OpenSSL библиотека уже давно поддерживает два типа структур открытого ключа в форматах PEM и DER:

• «устаревшая» структура, специфичная для каждого поддерживаемого алгоритма, с заголовками PEM, такими как
  -----BEGIN RSA PUBLIC KEY-----
-----BEGIN DSA PUBLIC KEY-----
-----BEGIN EC PUBLIC KEY-----
  реализуется процедурами PEM_{write,read}{RSA,DSA,EC}PublicKey

• одна общая структура, определенная X.509, названная SubjectPublicKeyInfo с заголовком PEM
  -----BEGIN PUBLIC KEY----- !! обратите внимание на отсутствие названия алгоритма
  реализуется процедурами PEM_{write,read}{,RSA,DSA,EC}PUBKEY

Однако OpenSSL командная строка использует последние почти исключительно, в том числе для rsautl -pubin. Вы можете видеть, что у вас есть первое. Зачем?

OpenSSH, когда он недавно добавил -m вариант формата для ssh-keygen -e экспорт, необъяснимо названный унаследованными структурами OpenSSL PEM но общая структура OpenSSL X.509 PKCS8 - хотя это совсем не PKCS # 8, который является стандартным и распространенным форматом для частный ключи.

Итак, ваши варианты:

• используйте неверно выглядящий, но на самом деле правильный вариант формата ssh-keygen -e -m pkcs8

• преобразовать имеющийся у вас файл с помощью единственной операции, которая делает обрабатывать устаревшую структуру:
  openssl rsa -in sshpub_called_pem -RSAPublicKey_in -out goodpub -pubout
  но только в OpenSSL 1.0.0 и выше.

• учитывая, что ваш файл закрытого ключа OpenSSH находится в формате, совместимом с OpenSSL (-----BEGIN RSA PRIVATE KEY----- не -----BEGIN OPENSSH PRIVATE KEY----- который также является недавним дополнением к OpenSSH) вы можете использовать OpenSSL вместо того ssh-keygen -e:
  openssl rsa -in sshprivate -pubout -out pubforopenssl
  или в версии 1.0.0 и выше - новая блестящая альтернатива openssl pkey -in sshprivate -pubout -out pubforopenssl

ТАКЖЕ ВНИМАНИЕ!: rsautl -sign|-verify (по умолчанию) использует заполнение PKCS # 1-v1.5 (также известное как тип 01), но НЕ подчиняется стандарту что требует, чтобы вы также закодировали хэш в ASN.1 SEQUENCE. Подписи, созданные таким образом, НЕ будут проверяться в другом программном обеспечении, которое подчиняется стандарту, а подписи, созданные в другом программном обеспечении, дадут другие (хотя ЧАСТИЧНО совпадающие) результаты. Вместо этого рассмотрите возможность использования

 openssl {dgst -hashname | hashname} {-sign privatekey | -verify publickey}

который выполняет полную операцию: хэширование данных, кодирование ASN.1, заполнение и знак RSA или, наоборот, RSA проверяет, распаковывает, декодирует и сопоставляет; или

 openssl pkeyutl -sign|-verify -inkey key [-pubin] -pkeyopt digest:hashname

где ключ является ключом RSA, который выполняет все PKCS # 1-v1.5 Кроме хеширование данных. Например.:
https://stackoverflow.com/questions/9380856/openssl-signature-difference-when-using-c-routines-and-openssl-dgst-rsautl-
https://stackoverflow.com/questions/13419201/why-are-the-rsa-sha256-signatures-i-generate-with-openssl-and-java-different
https://stackoverflow.com/questions/9951559/difference-between-openssl-rsautl-and-dgst
https://crypto.stackexchange.com/questions/27079/what-is-the-difference-between-openssl-pkeyutl-sign-and-openssl-rsautl-sign
https://crypto.stackexchange.com/questions/27892/verify-a-rsa-signature-using-only-rsa-encryption