Я не очень уверен, какую потребительскую плату выбрать для такой конфигурации.
Я планирую построить один или несколько «Беовульф-подобных кластеров» (начиная с одного для тестирования), один такой кластер состоит из четыре коробки (товарный Socket-1156 + i7 / 875K + 2x2GB 1333) в тетраэдрической топологии Gbit-Lan (прямые соединения X-link типа back-to-back).
На изображении ниже каждое поле с именем A, B, C или D имеет четыре Gbit-NIC, один указывает на восходящий коммутатор Gbit (тонкая линия), три для подключений к оставшимся блокам (каждый цвет обозначает одну подсеть между двумя NIC):
Это должен быть надежный 32-узловой вычислительный сервер стоимостью 2,5 тыс. Евро (вероятно, дешевле), работающий под управлением 64-разрядной ОС Linux и OpenMPI. Сервер запускает численное моделирование узлов через OpenMPI, узлы будут обмениваться данными через свои параллельные соединения.
Эта проблема: Я тестировал подобную установку уже на «тригональном» кластере (три узла, на каждом два дополнительный PCIe-NIC и бортовой Gbit-NIC) успешный один тип платы (Gigabyte P55A-UD3R).
Еще одна плата, которую я тестировал (Gigabyte P55A-UD4) не удалось воспроизвести через несколько минут при полной загрузке сети (но не когда в одиночный узел Режим).
Для вышеупомянутой настройки я хотел бы использовать плату, способную выдержать основной удар четырех одновременных соединений Gbit. Из моей тригональной настройки я знаю, что каждая сетевая карта передает около 50-80 МБ / с в любое время (iftop).
С уважением
rbo
Вероятно, проблема в качестве сетевых адаптеров. Бортовые сети для потребительских плат обычно представляют собой недорогие чипсеты Broadcom или Realtek, которые при реальных нагрузках довольно ужасны. У дешевых сетевых адаптеров потребительского уровня будут аналогичные проблемы.
Автономные сетевые карты с лучшими наборами микросхем Intel пользуются большим успехом.
PCIe на потребительских платах должен без проблем обрабатывать такую полосу пропускания.
Купите для этого сетевые адаптеры корпоративного уровня - все остальное доставит вам проблемы с точки зрения как скорости, так и загрузки ЦП (более дешевые сетевые адаптеры переносят обработку нагрузки на ваш ЦП). Я бы подумал о чем-то вроде Intel Gigabit ET2 Quad Port-Server Adapter.
http://www.intel.com/Products/Server/Adapters/Gb-EF-Dual-Port/Gb-EF-Dual-Port-overview.htm
Это обойдется вам примерно в 400 долларов, что недешево, но даст вам необходимую производительность.
Также убедитесь, что вы случайно не пропустите трафик через коммутатор. Это может вызвать проблемы при полной нагрузке, если у вас нет дорогого коммутатора корпоративного уровня. Включите Jumbo Frames, если ваше оборудование поддерживает это.