Планирую создать почтовый сервер, но вообще не хочу использовать пароли. Мне они кажутся неправильным выбором безопасности.
Я бы хотел использовать сертификат для входа в систему. Кажется, это легко сделать в HTTP, но я не нашел способа сделать это в SMTP. Есть ли способ это сделать?
Если нет, то есть ли другой вариант, кроме паролей? OAuth, 2FA или что-нибудь еще?
Посмотрите на проверку сертификата клиента для выбранного SMTP-сервера. Например, в Postfix вы можете использовать Сертификаты клиентов TLS как метод аутентификации.
Kerberos (gssapi) или сертификаты - это, я думаю, варианты.