При использовании varnish в качестве сервера балансировки нагрузки все ли данные проходят через один балансировщик нагрузки Varnish, что ограничивает скорость загрузки на хорошо оптимизированных веб-сайтах, обслуживающих тысячи одновременных посетителей?
все ли данные проходят через единственный балансировщик нагрузки Varnish
Короче да.
Подумайте о чем-нибудь - клиент устанавливает TCP-соединение с IP-адресом вашего балансировщика нагрузки. Как он будет получать ответы на свои HTTP-запросы, если они не вернутся через то же соединение? По очевидным причинам внутренние серверы не могут заранее создавать собственные TCP-соединения с клиентом.
на хорошо оптимизированных веб-сайтах, обслуживающих тысячи одновременных посетителей?
Я не уверен, при чем здесь это вообще - лак ведет себя одинаково независимо от количества посетителей или относительного уровня оптимизации сайта.