CentOS 降低 backlog 延迟的实用做法
一 核心思路
- 降低排队时延的关键是让连接尽快被应用 accept() 并从队列中移除，因此要同时做三件事：
- 让队列“更短但更稳”，避免堆积；
- 让队列“处理更快”，提升应用与内核的处理能力；
- 让队列“不被占满”，通过限流与扩容减少涌入速率。
二 快速检查与定位
- 查看监听队列容量与应用设置是否匹配：
- 当前全连接队列上限：cat /proc/sys/net/core/somaxconn
- 半连接队列上限：cat /proc/sys/net/ipv4/tcp_max_syn_backlog
- 查看实际监听状态与当前排队情况：ss -lnt | awk ‘{print $4, $2}’ | sort -k2 -nr
- 观察是否存在连接堆积或超时：
- 连接状态统计：ss -s
- 抓包定位握手与重传：tcpdump -ni any ‘tcp[tcpflags] & (tcp-syn|tcp-ack) != 0’ -vv
- 若发现队列经常打满或 SYN 重试增多，说明“处理速度 < 到达速度”，需要按下方步骤优化。
三 内核与网络参数优化
- 原则：队列“够用即可”，避免过大导致长排队；同时保障握手与回收效率。
- 建议参数与理由（示例值，需结合业务与压测微调）：
- 降低全连接队列上限，减少排队深度：net.core.somaxconn = 1024–4096
- 半连接队列与防护：net.ipv4.tcp_max_syn_backlog = 2048–8192；net.ipv4.tcp_syncookies = 1
- 加速回收与复用，减少端口与状态占用：net.ipv4.tcp_tw_reuse = 1；net.ipv4.tcp_fin_timeout = 30
- 扩大本地端口范围，缓解短连接并发不足：net.ipv4.ip_local_port_range = 1024 65535
- 可选：当连接数极大时放宽 TCP 内存压力阈值（单位页，1 页≈4KB）：net.ipv4.tcp_mem = 196608 262144 393216
- 应用生效：sysctl -p；修改前备份 /etc/sysctl.conf。
四 应用层与架构优化
- 应用层 backlog 要与内核上限匹配，且不宜过大（避免长排队）：
- Nginx：listen 80 backlog=4096;
- Apache：ListenBacklog 4096
- 原则：应用 backlog ≤ net.core.somaxconn，并尽量与压测得出的“安全队列深度”一致。
- 提升 accept 与处理能力：
- 增加 worker 进程/线程数，缩短 accept 间隔；使用异步 I/O 或多路复用（如 epoll）。
- 开启/优化 keepalive，复用连接，降低新连接建立频率。
- 限流与削峰：
- 在入口做速率限制（如令牌桶/漏桶），保护后端不被突发流量冲垮。
- 架构层面：
- 引入负载均衡，将流量分摊到多台实例，降低单机 backlog 压力。
五 监控与验证
- 持续观察队列与握手质量：
- 队列占用排行：ss -lnt | awk ‘{print $4, $2}’ | sort -k2 -nr
- 全局连接概览：ss -s
- 抓包诊断：tcpdump -ni any ‘tcp[tcpflags] & (tcp-syn|tcp-ack) != 0’ -vv
- 验证参数生效：
- sysctl net.core.somaxconn
- sysctl net.ipv4.tcp_max_syn_backlog
- 建议做法：压测基线 → 调整参数 → 复测对比 P95/P99 延迟与握手失败率，逐步收敛到最优值。