ELB Amazon выглядит интересно, но мне трудно оценить, насколько он может быть надежным. У меня нет четкого представления о том, как это реализовано или что это может делать за кулисами.
Если выйдет из строя машина ELB, которая передает запрос одному из моих серверов EC2, я ожидаю, что этот запрос умрет. Что насчет следующего запроса, который сделает клиент? Он разрешил IP-адрес, который раньше указывал на некоторую конечную точку ELB, которая находилась на машине, которая вышла из строя. Есть ли шанс, что следующие несколько запросов тоже не удастся? На данный момент мы зависим от истечения срока действия и обновления DNS TTL?
Экземпляры ELB используют эластичный IP-адрес, который не изменится, если серверная часть ELB выйдет из строя, поэтому DNS здесь не проблема. Amazon не публикует, как на самом деле работает ELB, поэтому то, что именно происходит, когда бэкэнд выходит из строя, является чистым предположением. Однако я бы предположил, что время переключения составляет порядка секунд.
У Amazon очень хорошая документация по AWS ELB. Ниже приведена ссылка, а также они гарантируют 99,99% времени безотказной работы AWS ELB.
http://aws.amazon.com/elasticloadbalancing/
http://aws.amazon.com/documentation/elasticloadbalancing/