У меня есть сайт с 2 ядрами на машине, а nginx (2 процесса) и gunicorn (5 рабочих) обслуживают приложение flask. Я провел стресс-тест с использованием locust.io для имитации 500 пользователей, и сайт ломается при масштабировании до 450 пользователей. Я чувствую, что это небольшое количество пользователей, и мне не нужно покупать другую машину, и что я должен делать что-то не так, чтобы сломаться так рано. Любые идеи?
Я предполагаю, что проблема может быть в бэкэнд-системе, если таковая имеется, больше, чем в стеке внешнего интерфейса (Nginx).
Сколько одновременных сеансов может обрабатывать ваша БД (если есть).
Одна очень распространенная ситуация заключается в том, что ваши обработчики запросов переходят в состояние ожидания с серверной системой и начинают очередь.
Вы проверили бэкэнд-систему?
450 использований - это небольшое число, но оно зависит от того, что делают 450 пользователей. Мы говорим о сеансах поддержки активности? Активные пользователи? Что делать?