На Solaris 10 он располагался в /etc/X11/gdm/gdm.conf но этот файл отсутствует в стандартной установке Solaris 11. Когда я запускаю команду slocate gdm.conf единственный файл, который я получаю, это /etc/dbus-1/system.d/gdm.conf чего я не знаю, это правильный.
найдено с
find / |grep gdm
Это в /etc/gdm. для xdmcp достаточно написать enable=true под [xdmcp] в custom.conf.