Недавно мы использовали Amazon AWS. Теперь наше приложение находится в облаке. И мы настроили ELB с автоматическим масштабированием, и он отлично работает. Нам нужно изменить ELB и контролировать, как он работает. Я проверил всю конфигурацию и не смог.
ELB распределяет запросы равномерно между зонами работоспособности, а затем равномерно между экземплярами в этой зоне. Вы не можете настроить это дальше. Убедитесь, что вы не выполняете что-то вроде трех экземпляров в us-west-2a и одного в us-west-2b, поскольку один в 2b получит в 3 раза больше трафика, чем каждый из экземпляров 2a.
Если вам нужна балансировка нагрузки на основе чего-то вроде нагрузки экземпляра, вам нужно создать собственное решение в AWS с чем-то вроде HAProxy.