Высокая задержка пинга по прямому каналу Gigabit Ethernet на оборудовании корпоративного класса

ОКОНЧАТЕЛЬНОЕ РЕДАКТИРОВАНИЕ 7/7 Множественные замены кабелей, портов и устройств сузили круг вопросов до модема Comcast и всех 8 его портов Ethernet. Учитывая, как говорится в комментариях, это закрытое устройство, и вряд ли мы сможем получить много реальной информации, мы, возможно, никогда не узнаем, но тем не менее я опубликую резолюцию в качестве ответа.

(Редактировать 1/6 мотивации; основная реальная проблема) Основываясь на жалобах пользователей на проблемы с телеконференцией, я хотел устранить все возможные причины. После проверки безупречного качества изображения подключения к локальной сети и Wi-Fi от ноутбука к серверу, а затем обнаружения очень неравномерной задержки сквозного пинга - часто значительно превышающей предлагаемый предел в 100 мс - с сервером Google Meet, как указано Вот, Я вернулся к источнику задержки. (Это не конечно, это основная причина задержек Google Meet, но я должен устранить ее как возможную причину.)

Оказывается, неравномерная и высокая задержка возникает из-за прямого соединения между Sophos UTM 9 SG125 (прошивка: 9.703-3) и гигабитным модемом Comcast CGA4341COM (производитель: Technicolor; версия оборудования: 2.3; набор микросхем: Broadcom).

Обе стороны соединения сообщают о гигабитном соединении. Спидтест до speedtest.xfinity.com дает результаты диапазона 400 Мбит / с с проводного сервера в локальной сети. (Изменить 2/6 Дополнительные доказательства проблемы Это кажется отличным, за исключением того, что когда один и тот же сервер подключен напрямую к модему, полностью исключая маршрутизатор и остальную часть локальной сети, пропускная способность составляет 930 Мбит / с.)

После долгого тестирования линии SSH cmd на Sophos и напрямую подключенного модема с помощью 10-футового кабеля Cat5e:

—— xx.xx.xx.134 ping statistics ---
756 packets transmitted, 756 received, 0% packet loss, time 755277ms
rtt min/avg/max/mdev = 0.162/21.789/199.543/34.605 ms

Длинные пинги довольно густо разбросаны:

64 bytes from xx.xx.xx.134: icmp_seq=1 ttl=64 time=58.2 ms
64 bytes from xx.xx.xx.134: icmp_seq=2 ttl=64 time=0.645 ms
64 bytes from xx.xx.xx.134: icmp_seq=3 ttl=64 time=72.4 ms

Попытки сделать это весь день ничего не изменили. Все посторонние функции модема отключены: переадресация портов, запуск портов, межсетевой экран, контроль доступа по MAC, DHCP, Wi-Fi и т. Д.

(Редактировать 3/6 Re: Возможный учет нагрузки трафика для задержки) Это происходило также посреди ночи и поэтому не зависит от трафика. Когда загрузка канала ниже 1%, несмотря на возможную неточность пинга, расстановка приоритетов не должна иметь значения.

(Изменить 4/6 Re: Возможный низкий приоритет ICMP) traceroute, использующий UDP, показывает идентичные шаблоны задержки:

traceroute -q 10 -w 1 10.1.10.1
traceroute to 10.1.10.1 (10.1.10.1), 30 hops max, 40 byte packets using UDP
 1  10.1.10.1 (10.1.10.1)  71.784 ms   70.684 ms * * *   66.310 ms * * * *
traceroute -q 10 -w 1 10.1.10.1
traceroute to 10.1.10.1 (10.1.10.1), 30 hops max, 40 byte packets using UDP
 1  10.1.10.1 (10.1.10.1)  1.218 ms   1.151 ms * * * * * * * *
traceroute -q 10 -w 1 10.1.10.1
traceroute to 10.1.10.1 (10.1.10.1), 30 hops max, 40 byte packets using UDP
 1  10.1.10.1 (10.1.10.1)  61.156 ms * * * *   55.497 ms   54.370 ms * * *

Изменить 5/6 Re: Нормальное поведение этого интернет-провайдера и модема На другом сайте клиента идентичное модемное оборудование, подключенное к EdgeRouter X за 65 долларов, я вижу по маршрутизатору, нормально:

--- 10.1.10.1 ping statistics ---
60 packets transmitted, 60 received, 0% packet loss, time 59398ms
rtt min/avg/max/mdev = 0.278/1.201/2.175/0.554 ms

Точно так же после отправки 100 UDP-пакетов traceroute на этот 2-й сайт самым медленным из всех было 3,3 мс.

(Изменить 6/6 Re: Возможная нормальность в целом) Между модемом и маршрутизатором я никогда не видел такой схемы задержки за годы работы с широкополосным доступом, как низкого, так и высокого уровня, с несколькими поставщиками. Я не сбрасывал со счетов сторону Sophos; Я сообщу, когда смогу попасть на объект с прямым подключением к другому устройству.

На Sophos нет ошибок пакетов:

router:/var/log# ifconfig eth1
eth1      Link encap:Ethernet  HWaddr 7C:xx:xx:xx:xx:94  
          inet addr:96.xx.xx.129  Bcast:96.xx.xx.135  Mask:255.255.255.248
          UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1
          RX packets:300119356 errors:0 dropped:0 overruns:0 frame:0
          TX packets:243077712 errors:0 dropped:0 overruns:0 carrier:0
          collisions:0 txqueuelen:1000 
          RX bytes:264200277517 (251961.0 Mb)  TX bytes:197347533783 (188205.2 Mb)

На eth0 Sophos отправляет эхо-запрос на сервер в локальной сети с типичной очень устойчивой задержкой 0,1-0,2 мс.

router:/# ping 192.168.1.5
PING 192.168.1.5 (192.168.1.5) 56(84) bytes of data.
64 bytes from 192.168.1.5: icmp_seq=1 ttl=128 time=0.198 ms
64 bytes from 192.168.1.5: icmp_seq=2 ttl=128 time=0.128 ms

Нет никакой загрузки (ЦП, памяти или диска) на Sophos вообще, ни чего-нибудь примечательного в журналах, ни чего-либо в dmesg.

lshw отчеты:

      *-network:1
            description: Ethernet interface
            product: Ethernet Connection X553 1GbE
            vendor: Intel Corporation
            physical id: 0.1
            bus info: pci@0000:0b:00.1
            logical name: eth1
            version: 11
            serial: 7c:xx:xx:xx:xx:94
            size: 1Gbit/s
            capacity: 1Gbit/s
            width: 64 bits
            clock: 33MHz
            capabilities: pm msi msix pciexpress bus_master cap_list rom ethernet physical tp 10bt-fd 100bt-fd 1000bt-fd autonegotiation
            configuration: autonegotiation=on broadcast=yes driver=ixgbe driverversion=5.2.4 duplex=full firmware=0x80000878 ip=96.86.73.129 latency=0 link=yes multicast=yes port=twisted pair speed=1Gbit/s
            resources: irq:17 memory:dfa00000-dfbfffff memory:dfe00000-dfe03fff memory:dc500000-dc57ffff

При поиске журналов за 90 дней модему практически не о чем сообщать. Только сегодня:

FW.WANATTACK DROP , 34 Attempts, 2020/6/16 15:58:01
Firewall Blocked

Подробная статистика программного обеспечения модема:

eMTA & DOCSIS Software Version: CM DOCSIS Application - Prod_18.1_d31 & MTA Application - Prod_18.1
Software Image Name: CGA4131COM_3.12p12s1_PROD_sey
Advanced Services: CGA4131COM
Packet Cable: 2.0