У меня сетевая карта Mellanox connectX-2 (MT26428) и я установил MLNX_OFED_LINUX-3.4-1.0.0.0-ubuntu16.04-x86_64
драйвер из репозитория Mellanox, но мне интересно, что это оборудование настраивает максимум 20G, хотя я ожидал, что вместо этого он установит 40G.
вот результат ibstatus
:
Infiniband device 'mlx4_0' port 1 status:
default gid: 0000:0000:0000:0000:0000:0000:0000:0000
base lid: 0x6
sm lid: 0x2f
state: 4: ACTIVE
phys state: 5: LinkUp
rate: 20 Gb/sec (4X DDR)
link_layer: InfiniBand
Infiniband device 'mlx4_0' port 2 status:
default gid: 0000:0000:0000:0000:0000:0000:0000:0000
base lid: 0x0
sm lid: 0x0
state: 4: ACTIVE
phys state: 5: LinkUp
rate: 10 Gb/sec (1X QDR)
link_layer: Ethernet
Infiniband device 'mlx4_1' port 1 status:
default gid: 0000:0000:0000:0000:0000:0000:0000:0000
base lid: 0x0
sm lid: 0x0
state: 1: DOWN
phys state: 2: Polling
rate: 10 Gb/sec (4X)
link_layer: InfiniBand
Infiniband device 'mlx4_1' port 2 status:
default gid: 0000:0000:0000:0000:0000:0000:0000:0000
base lid: 0x0
sm lid: 0x0
state: 4: ACTIVE
phys state: 5: LinkUp
rate: 10 Gb/sec (1X QDR)
link_layer: Ethernet
Обратите внимание, что значение gid по умолчанию является разумным, и я меняю его из соображений безопасности.
Обратите внимание, что эти платы connectX-2 подключаются коммутатором (модель) с помощью 12-метрового медного кабеля QSFP. Я также тестировал его с помощью медного кабеля QSFP длиной 10 м и 1 м, соединенного друг с другом, без включения переключателя, и, к сожалению, получил тот же результат.
Вероятно, это проблема несовместимости кабелей. Без публикации модели кабелей невозможно узнать, совместимы ли используемые кабели с QDR. Обратите внимание, что кабели DDR, QDR и FDR легко перепутать, потому что все они могут выглядеть одинаково. Проверка модели - единственный способ узнать возможности кабеля.
Вы можете найти подробную информацию о кабелях, запустив ibdiagnet от Mellanox OFED. Обратите внимание, что плагин идентификации кабеля недоступен в утилитах, поставляемых с дистрибутивом.
ibdiagnet --get_cable_info
Будет вывод в файл, ibdiagnet2.cables. Посмотрите на вывод программы, чтобы узнать точный путь. Для каждой системы / порта / LID вы найдете подробную информацию о подключенных кабелях.