Мы создали API и занимаемся его масштабированием. В настоящее время у нас 6 хостов, и мы используем DNS Round Robin для распределения нагрузки.
Однако большая часть нашего трафика поступает из одного источника. Мы подключаемся к нашей клиентской системе, чтобы они использовали один исходный IP-адрес для связи с нами. Мы провели некоторое тестирование loader.io, и я заметил неравномерное распространение.
Я знаю, что круговая система может быть не идеальной, но она лучше, чем то, что мы использовали раньше. HAProxy на другом локальном компьютере, чтобы управлять им? Я думал, что у меня есть 2 балансировщика нагрузки с DNS FailOver, которые будут переключаться, если один выйдет из строя.
ОБНОВИТЬ: Также мы хотим уменьшить сетевой трафик. Например, если HAProxy спрашивал, какой сервер используется меньше всего, это увеличивает время ответа. Можем ли мы переслать HTTP-запрос прямо на хост?
Если балансировка нагрузки DNS не работает для вас, то да, следующим шагом будет балансировщик нагрузки или прокси приложения, например haproxy.