Приложение Meteor для разработки работает в контейнере докеров в облаке aws, оно принимает вводимые пользователем данные и выполняет HTTP-запросы на сторонние веб-сайты, анализирует данные и отправляет обратно пользователю. Извинения; мое ограниченное понимание технологии отражено в следующем вопросе.
Поскольку может быть более 200 пользователей, следовательно, 200+ запросов к сторонним веб-сайтам, какая лучшая структура для настройки приложения / контейнера, чтобы запросы из контейнера на сторонние веб-сайты не ставились в очередь?
Мы очень ценим любую идею о более широкой картине.
Научный метод твой друг.
Как мой сайт будет работать при различных нагрузках?
Придумайте эксперимент.
Создайте способ подражать вашим пользователям поодиночке или в группах (я не могу дать никаких советов здесь, это не моя сила, а ваш другой друг, гугл, я уверен, вам поможет).
Протестируйте свой сайт, используя метод, который вы разработали выше, используя различные моделируемые пользовательские рабочие нагрузки.
Следите за тем, что происходит - собирайте показатели со Система наблюдения.
Проанализируйте собранные данные. Поймите, как ваша система работает при различных рабочих нагрузках, которые вы применяете.
Примите меры по мере необходимости - измените дизайн своего сайта на основе того, что вы найдете, и вернитесь к 2 при необходимости.
Документируйте свои решения для людей, которые следят за вами.