Предположим, у меня есть два экземпляра Tomcat с балансировкой нагрузки с помощью BIGIP или другого аналогичного решения. Если один раз экземпляр Tomcat выйдет из строя во время обслуживания нескольких запросов, что произойдет с этими запросами? Пользователь получает ошибку в браузере?
Это зависит от того, на каком уровне вы выполняете балансировку нагрузки. Если это на уровне IP, они, вероятно, получат ошибку «Connection Reset By Peer», хотя браузер может отображать это в «удобной для пользователя» манере. В качестве альтернативы они могут просто получить тайм-аут через некоторое время. Если вы выполняете HTTP-проксирование, вы, вероятно, получите ответ Bad Gateway от прокси. В любом случае, да, вы получите ошибку в браузере, но предположительно, если ваш балансировщик нагрузки обнаружил сбой, при любом обновлении будет отображаться правильная страница. Я не уверен, что вы можете многое с этим поделать. Я думаю, что веб-пользователи привыкли время от времени ожидать неудач.