У нас есть система, которая сейчас находится в Amazon Ec2. Я использую Amazon ELB прямо сейчас для балансировки нагрузки между 12 инстансами в 2 зонах. Я провел несколько нагрузочных тестов с разными характеристиками:
1) набор одновременных пользователей от 0 до 10 000 за 60 минут. 2) ступенчатый пандус от 2500 в течение 15 минут, до 5000 в течение 15 минут, до 7500 в течение 15 минут, до 10000 в течение 15 минут.
На обоих мои серверы занимают около 20-30% ЦП, 10-15% сети и, кажется, работают нормально, наше приложение регистрирует все, как ожидалось, и очень быстро отвечает на машине на протяжении всего теста. Мои запросы трафика в секунду на этих машинах кажутся довольно резкими и демонстрируют странное поведение. Один из примеров: серверы в зоне 1 будут отбрасывать 200-400 запросов в секунду, а серверы в зоне 2 одновременно увеличиваются на 200-400 запросов в секунду. Все это при том, что все еще отлично отвечает.
Однако результаты внешнего нагрузочного теста сильно отличаются. Я вижу много таймаутов и ошибок сброса соединения. Эти таймауты и ошибки соединения также несколько резкие, то есть я пройду 5 минут без ошибок, затем получу их немного, а затем вернусь к нулю на некоторое время.
Я подозреваю, что ELB может перебалансировать или что-то, что вызывает такое поведение. Я действительно пытался перейти на действительно мощное оборудование с HAPRoxy. Казалось, что это решило некоторые проблемы на нижнем конце кривой нагрузочного теста, но затем, похоже, сеть не выдержала и не могла выходить далеко за рамки 5-6К запросов в секунду.
Мне интересно, есть ли у кого-нибудь представление о поведении Amazon ELB? Также, есть ли какие-либо обходные пути для этого? Это могут быть совершенно разные решения ...
Спасибо,
MikeD
Отвечая на свой вопрос. Я случайно наткнулся на эту ветку (https://forums.aws.amazon.com/thread.jspa?threadID=76834), в котором содержится неясная ссылка на что-то под названием ELB Pre-Warm. Я позвонил в службу поддержки Amazon AWS, и мне сказали, что это действительно услуга, которую они предлагают, вам просто нужно иметь план поддержки (уровень Gold, если вы хотите им позвонить). Они все настроили для меня, и я смог провести успешный нагрузочный тест с увеличением скорости от 0 до 10 тысяч запросов в секунду за 5 минут.