Назад | Перейти на главную страницу

Почему мое подключение MPIO к сети SAN ограничено 1 Гбит / с при использовании Linux?

Я подключаю блок RHEL5 к Dell EqualLogic PS5000X и вижу максимум 1 Гбит / с даже при использовании MPIO с тремя гигабитными сетевыми картами.

У меня все три интерфейса на PS5000X и три выделенных интерфейса iSCSI на сервере подключены к одному коммутатору. При использовании более одного интерфейса для подключения к SAN я получаю только 1 / n трафика на каждом. Я следил за Руководство по установке Dell и все вроде работает отлично, за исключением моих показателей пропускной способности.

[root@testbox ~]# multipath -ll
linuxvol (36090a02840c3bd2f5ec324010000707f) dm-5 EQLOGIC,100E-00
[size=50G][features=1 queue_if_no_path][hwhandler=0][rw]
\_ round-robin 0 [prio=3][enabled]
 \_ 6:0:0:0  sdf 8:80  [active][ready]
 \_ 14:0:0:0 sde 8:64  [active][ready]
 \_ 15:0:0:0 sdi 8:128 [active][ready]

[root@testbox ~]# dd if=/dev/zero of=/mnt/linuxvol/testfile obs=64k count=16M
16777216+0 records in
131072+0 records out
8589934592 bytes (8.6 GB) copied, 76.4894 seconds, 112 MB/s

Я даже могу завершить сеансы iSCSI во время передачи и наблюдать, как загрузка интерфейса в оставшихся соединениях возрастает с 33% до 50% до 100% по мере того, как я перехожу от трех до двух к одному сеансу. Я пробовал настраивать различные параметры глубины очереди и циклического перебора, которые имеют лишь небольшое значение.

PS5000X оснащен 14 дисками данных и 2 дисками SAS 10k RPM с горячим резервом. Мой тестовый том настроен на RAID-10 с несколькими включенными инициаторами. Никакой тонкой подготовки, никаких снимков, никакого другого трафика в SAN.

Что мне не хватает? Есть ли какие-то настройки MPIO, которые мне нужно настроить в ОС?

Обновление: это коммутатор HP ProCurve 4104GL. Он не поддерживает jumbo-кадры. Управление потоком включено на всех портах SAN. Связующее дерево отключено. Единственными устройствами, подключенными к коммутатору, являются PS5000, тестовый сервер и один порт восходящей связи. Я знаю, что трафик не проходит по восходящей линии связи, потому что я могу наблюдать за использованием порта на коммутаторе во время выполнения теста. Я также наблюдаю за графиком сетевого интерфейса на PS5000, и он идеально соответствует загрузке коммутатора, около 33% пропускной способности на каждом интерфейсе.

Оказывается, проблема была связана с переключателем. Когда мы наконец заменили HP на новый коммутатор Dell, мы смогли получить мультигигабитную скорость, как только все было подключено.

Просто пища для размышлений ... у нас были коробки Server 2003 с программным многопутевым вводом-выводом на коммутаторе HP ProCurve и SAN Dell PS5000, работающим нормально ... Я скажу, что нам пришлось бороться с множеством настроек как на стороне Dell EqualLogic, так и со стороны программного обеспечения iSCSI в Windows, чтобы все работало без сбоев.

В Windows решающим шагом на пути к тому, чтобы все заработало, было переключение балансировки нагрузки с «наименьшей очереди» на «циклический» (это по памяти, так что позвольте мне немного расслабиться, если я не совсем правильно помню термины). Как только мы это сделаем, мы увидим, что пропускная способность EqualLogic банальна через наши три выделенные сетевые карты iSCSI.

Убедитесь, что ваш рабочий сценарий iSCSI сохраняется и после перезагрузки! Нам пришлось настроить порядок, в котором службы запускаются в Windows (путем изменения зависимостей служб), чтобы iSCSI и MPIO работали «в самый раз» после перезагрузки.

Какие у вас сетевые карты? Интегрированные или карты? Каковы автобусные ограничения их подключения? Итак, в основном сетевые интерфейсы встроены в материнскую плату или это карты PCI в какой-то форме? Что такое шина PCI, PCI-X что ли? Какая скорость автобуса. Система не может нажимать больше, чем скорость интерфейсной системной шины