Возможные причины задержек и потерь
- Сетевая перегрузка (очереди, loss при заполнении буферов).
- Bufferbloat — большие очереди на пути увеличивают задержку.
- Плохой/шумный физический канал (пакетные ошибки, беспроводные сети).
- Перестановка пакетов (reordering) — даёт duplicate ACK и может вызвать retransmit.
- MTU/фрагментация/Path MTU block — потеря фрагментов или ICMP.
- Неправильные middlebox/IDS/файрвол (drop, изменение опций TCP).
- Нагрузка/проблемы на NIC/драйвере (offloads: TSO/GSO/LSO), CPU starvation на хосте.
- Негативное взаимодействие Nagle + delayed ACK → искусственная задержка.
- Малый congestion window / slow start при старте/после потерь.
- Отсутствие SACK → больше retransmit по таймауту вместо fast-recovery.
Что смотреть в трассировке (tcpdump/Wireshark)
- Тип retransmission: fast retransmit (после $...$ dup-ACK) или RTO (таймаут). Fast retransmit включается после $...$3 dup-ACK.
- Наличие duplicate ACK, SACK blocks, порядок seq/ack, MSS и window scale из SYN/SYN-ACK.
- RTT/RTT variance, RTT по ack timestamps (wireshark: tcp.analysis.ack_rtt).
- tcp.analysis.retransmission, tcp.analysis.fast_retransmission, tcp.analysis.out_of_order.
- TCP options: SACK, Timestamps, Window Scale, MSS, initial window (IW).
- Интервалы между сегментами и задержки ACK (delayed ACK — Windows ≈ $...$200 ms, Linux часто ≈ $...$40 ms).
- Моменты, когда cwnd уменьшается (после потери) — видно в sequence/ack pattern.
Инструменты для диагностики
- tcpdump/tshark/wireshark — захват и анализ TCP флагов, retransmits, RTT.
Примеры фильтров: tcp and host A and host B; tshark -r file -Y "tcp.analysis.retransmission".
- ss / netstat / iproute2:
- `ss -ti` — детали TCP сокетов (rtt, cwnd, retrans).
- `netstat -s | grep -i retrans` — общая статистика.
- ping, traceroute, mtr — проверка задержки и маршрута, вариабельности.
- iperf3 / netperf — активное измерение пропускной способности и потерь.
- tc (qdisc), fq_codel, cake — проверка и управление очередями (bufferbloat mitigation).
- ethtool -k / dmesg — offload/driver/NIC ошибки.
- sysctl / procfs — смотреть и менять TCP-параметры: `/proc/sys/net/ipv4/...`.
- tcptrace, Wireshark TCP stream graphs — визуализация cwnd/throughput.
Ключевые TCP-параметры и опции для проверки/оптимизации (Linux)
- Включить/проверить:
- `net.ipv4.tcp_sack` — SACK (включён).
- `net.ipv4.tcp_timestamps` — timestamps (полезны для точного RTT).
- `net.ipv4.tcp_window_scaling` — window scaling.
- Конфигурация буферов:
- `net.core.rmem_max`, `net.core.wmem_max`, `net.ipv4.tcp_rmem`, `net.ipv4.tcp_wmem`.
- Алгоритм контроля перегрузки:
- `net.ipv4.tcp_congestion_control` — попробовать `bbr` или `cubic`.
- Таймауты и retries:
- `net.ipv4.tcp_retries1`, `net.ipv4.tcp_retries2` — влияние на повторные попытки и drop.
- Offloads и NIC:
- Отключить TSO/GSO/LRO при тестировании: `ethtool -K eth0 tso off gso off gro off`.
- Qdisc:
- Включить fq_codel/cake: `tc qdisc replace dev eth0 root fq_codel` или cake для домашней/провайдерной оптимизации.
Полезные проверки и последовательность диагностики (кратко)
1. Захват трафика (tcpdump) во время проблемы → смотреть retransmits, dup ACK, SACK, MSS, window scale.
2. Измерить линейную задержку/потери: ping/mtr между хостами.
3. Проверить загрузку CPU/NIC/driver и offloads (ethtool, dmesg).
4. Запустить iperf3 для репродуцирования и смотреть throughput/packet loss.
5. Проверить qdisc и bufferbloat (tc -s qdisc, использовать fq_codel/cake).
6. Настроить/включить SACK, timestamps, увеличить rmem/wmem или сменить congestion control (bbr) при необходимости.
7. Повторить захват и сравнить: уменьшилось ли число RTO/fast retransmit и вырос ли стабильный throughput.
Формула RTO (важно для понимания таймаутов)
$$RTO=SRTT+\max (G,K\cdot RTTVAR)$$ где обычно $K=4$, $G$ — clock granularity.
Короткие практические советы
- Если много dup-ACK → скорее всего потеря/перестановка; проверьте SACK и fast retransmit.
- Если много RTO (длительные паузы) → возможно ICMP блок или большие потери/скрытые проблемы на пути; смотреть path MTU и ICMP.
- Bufferbloat → поставить fq_codel/cake.
- Для высокоскоростных ссылок с высокой RTT → увеличить буферы (`rmem/wmem`) и рассмотреть BBR.
Если нужно — пришлите pcap и вывод `ss -ti`/`iperf3` и дам конкретный анализ по трассировке.