Nginx如何提升并发能力

Nginx提升并发能力的实用方案

一 核心原理与瓶颈

• 并发能力上限由三部分共同决定：进程/线程模型（worker_processes × worker_connections）、系统资源限制（文件描述符、端口范围、连接队列）、网络与传输效率（长连接、内核TCP参数、高效I/O）。
• 在 Linux 上，Nginx 通常使用 epoll 事件模型；每个监听 socket 的未完成连接队列由 listen … backlog 指定，且上限受内核 net.core.somaxconn 限制；若队列过小会出现连接丢弃或超时。Nginx 默认 backlog 为 511，在高并发场景应显式调大并同步内核参数。

二 Nginx配置优化要点

• 进程与CPU绑定
  • 设置 worker_processes auto;（或设为CPU核数），并开启 worker_cpu_affinity 减少上下文切换与缓存失效。
• 文件描述符与连接规模
  • 提升进程可打开文件数：worker_rlimit_nofile 65535;（并在系统层放宽 nofile 限制）。
  • 提升单进程并发：worker_connections 65535;，则理论最大并发约为 worker_processes × worker_connections（受内存与系统限制）。
• 事件模型与连接接收
  • 使用 use epoll;（Linux），开启 multi_accept on; 提高新连接接收效率；保持 accept_mutex on; 以避免“惊群”。
• 传输与静态资源
  • 启用 sendfile on;、tcp_nopush on; 减少用户/内核态拷贝与小包发送次数；静态资源设置 expires 30d; add_header Cache-Control “public”; 降低后端压力。
• 长连接与头部/缓存
  • 开启 keepalive（如：keepalive_timeout 60; keepalive_requests 100;），并在反向代理的 upstream 中使用 keepalive 128; 复用后端连接，显著降低 TIME_WAIT 与握手开销。
  • 启用 open_file_cache 缓存频繁访问的文件元数据，减少系统调用。
• 压缩与缓冲
  • 开启 gzip 减少传输体积；合理设置 client_body_buffer_size、client_header_buffer_size、client_max_body_size、large_client_header_buffers 以降低磁盘I/O与内存抖动。

三 系统与内核参数调优

• 文件句柄与进程限制
  • 提升系统最大句柄数（如 fs.file-max），并在 /etc/security/limits.conf 为运行 Nginx 的用户设置 nofile 65535，与 Nginx 的 worker_rlimit_nofile 保持一致。
• 连接队列与端口
  • 调高 net.core.somaxconn（如 65535），并在 Nginx 的 listen 指令中显式设置 backlog=1024（或更高，需与 somaxconn 匹配），避免队列溢出。
  • 扩大客户端端口范围：net.ipv4.ip_local_port_range = 1024 65535，提升源端口可用性。
• TCP状态与保活
  • 开启 net.ipv4.tcp_tw_reuse = 1 复用 TIME_WAIT 连接；缩短 net.ipv4.tcp_fin_timeout = 30 加速回收；按需调整 net.ipv4.tcp_max_syn_backlog 提升半连接队列能力；配置 tcp_keepalive_time / tcp_keepalive_intvl / tcp_keepalive_probes 加速故障检测与清理。

四 压测与容量评估

• 基线评估与瓶颈定位
  • 使用 ab 或 wrk 进行压测（如：ab -n 200000 -c 5000 http://localhost:8080/），结合 Nginx status（如 http://127.0.0.1/status）观察 connections、waiting 等指标，定位是连接建立、文件I/O还是后端瓶颈。
• 逐步调参与回归测试
  • 按“进程/连接 → 长连接/缓存 → 内核/队列”的顺序小步调整，每次变更后回归压测，观察 P95/P99 延迟、错误率、连接数、CPU/内存 等指标，避免一次性大幅改动导致不可预期回退。

五 常见场景配置示例

• 反向代理与长连接
  • 在 upstream 中配置 keepalive 128; 复用后端连接；在 location 中按需设置 proxy_set_header 透传必要信息，减少额外往返与握手开销。
• 静态资源与缓存
  • 对图片、CSS、JS 等设置 expires 30d; add_header Cache-Control “public”;，并启用 sendfile/tcp_nopush 提升传输效率，显著降低后端QPS与I/O压力。
• Kubernetes Ingress
  • 在 Ingress Controller 的 ConfigMap 或 Pod 的 securityContext/sysctls 中设置 net.core.somaxconn、net.ipv4.ip_local_port_range、net.ipv4.tcp_tw_reuse 等内核参数；在 Ingress 资源的 spec.tls 与 listen 配置中启用 TLS 1.3、合理 ciphers，并显式设置 backlog（如 1024）以匹配高并发入口流量。