Мой сетевой инженер заявляет, что я являюсь частью кластера, в котором два сервера приложений apache (512 ГБ ОЗУ каждый) имеют по 142 экземпляра Tomcat (из которых моя компания представляет 6 экземпляров с 2 ГБ ОЗУ). Кажется, что это много, и мои проблемы с задержкой меняются в зависимости от часа дня - программное обеспечение 7:00 CST работает нормально, 10:00 CST - система значительно замедляется, эта медлительность продолжается до 18:00 CST. У меня вопрос: сколько экземпляров Tomcat может обработать один сервер приложений?
Это зависит. С одной стороны, я видел, как двухъядерный сервер для пиццы с 1 ГБ ОЗУ обрабатывает несколько тысяч одновременных запросов, практически не свидетельствующих о том, что ЦП действительно что-то делает. Это было очень хорошо написанное приложение. С другой стороны, я видел стойку за стойкой довольно дорогих серверов (16 ГБ + ОЗУ, 4+ ядра), обрабатывающих трафик для сайта, потому что приложение так плохо написано, если серверу приходится обрабатывать более 5 одновременных запросов, приложение падает .
Все это, безусловно, звучит так, как будто у вас проблема с емкостью.
Если это связано с памятью, JVM могут начать подкачку, и это замедлит их сканирование.
Я предполагаю, что это связано с процессором. Плохо написанному приложению несложно проглотить огромное количество ЦП с очень небольшим количеством запросов.
Есть вероятность, что это связано с сетью. С таким количеством экземпляров вы можете обслуживать достаточно контента для насыщения сети, но я бы ожидал другого режима отказа (например, обрыва соединения), а не общей медлительности.