В Google Cloud действительно есть возможность управления ключами SSH из коробки, и AWS оставляет все это на ваше усмотрение.
В gcp ваши учетные данные gcp также используются для доступа по SSH. gcp автоматически создает ключи SSH от имени вашего пользователя и загружает их в экземпляры, когда вы используете их по SSH. Так что не нужно вручную генерировать ключи SSH, пытаясь сохранить их в безопасности и отслеживать их. https://cloud.google.com/compute/docs/instances/connecting-to-instance
Как мне самому накатить что-то подобное для AWS? Даже не уверен, с чего начать искать, что это за продукт.
Вы хотите использовать OpsWorks Stacks. Это в их документации здесь:
https://docs.aws.amazon.com/opsworks/latest/userguide/security-ssh-access.html
В противном случае вам придется поделиться закрытым ключом, поскольку будет только одна пара ключей, если вы используете пару ключей EC2.