На данный момент у меня есть настройка apache с ssl (пользователи используют частные сертификаты).
Можно ли в таком случае поставить apache за nginx?
Да.
http://www.cyberciti.biz/faq/howto-linux-unix-setup-nginx-ssl-proxy/
Также посмотрите на фунт - http://www.apsis.ch/pound/ в качестве альтернативы или в дополнение (перед) nginx.