Могу ли я запустить службу электронной почты Google и службу электронной почты моего веб-хостинга в одном домене?
domain.com <--- в сервисе google (домен верхнего уровня)
mailman.domain.com <--- на веб-хостинге (поддомене)
Да. Вы можете просто настроить записи MX по отдельности для обоих, отдельно зарегистрировав их в Google Apps.
Что сказал фахадсада - вы управляете этим через записи MX - но я полагаю, вы имели в виду, что хотите, чтобы MX для одного FQDN обрабатывался Google, а другой (mailmain.domain.com) обрабатывался сервисами где-то еще - то же самое - просто разделяйте записи MX в DNS (и не забывайте SPF и другие сопутствующие записи, чтобы упростить жизнь)