В устройстве OSX включено удаленное управление (AppleVNCServer) и открыт порт 5900. При использовании tightvnc / ultravnc / realvnc невозможно установить соединение из-за «несоответствия протокола безопасности» (нет точной фразы). Поиск в Google дает только сообщения, в которых говорится «используйте OSXVnc» или другие решения для удаленного рабочего стола.
Как подключиться к удаленному управлению Apple по умолчанию с помощью Linux / Windows?
обязательно активируйте пароль VNC: перейдите в System Preferences / Sharing / Remote Management, нажмите Computer Settings... кнопку, проверьте VNC Viewers may control...., и добавьте туда пароль.
Я успешно использую Vinagre (версия 3.10.2 для Linux) для подключения к OS X Yosemite; Мне не нужно было включать опцию «VNC Viewers can control ...» в OS X.
Он отлично работает с рядом клиентов VNC, которые я пробовал, включая VNC на моем iPad и iPhone. Я бы рекомендовал вам продолжать пробовать разные клиенты или проверять конфигурации клиента и сервера.