怎样提高Ubuntu上Tomcat的并发能力 - 问答

提升 Ubuntu 上 Tomcat 并发能力的实用方案

一架构与基础设施优化

使用反向代理与负载均衡：在 Tomcat 前部署 Nginx/Apache，将请求分发到多个 Tomcat 实例，横向扩展吞吐与并发承载。Nginx 示例：定义 upstream 指向多个实例，启用长连接与合适的缓冲策略，减少后端线程被慢连接占用。
静态资源卸载：将图片、CSS、JS等交由 Nginx 或 CDN 处理，降低 Tomcat 线程与 I/O 压力，缩短首包时间。
启用 HTTP/2（Tomcat 9+ 支持）：多路复用、头部压缩，减少连接开销，提升高并发场景下的页面加载与接口响应。
选择高效 I/O 模型：优先使用 NIO/NIO2 连接器；在有 OpenSSL 与 APR/native 库的环境下，可启用 APR 模式以获得更佳的异步 I/O 与 SSL 性能。

二 Tomcat 线程池与连接器调优

共享线程池（推荐）：在 server.xml 中定义 Executor，多个 Connector 共享，便于统一控制并发与队列。
关键参数建议（需压测校准）：
- maxThreads：并发处理线程上限，默认 200；CPU 密集可保守，I/O 密集可适当增大，避免过大导致上下文切换激增。
- minSpareThreads / maxSpareThreads：保底与上限空闲线程，保证突发流量有线程可用。
- acceptCount：当线程耗尽时的排队队列长度，队列满则拒绝新请求，适度增大可降低突发拒绝率。
- maxConnections：Tomcat 可同时打开的连接上限，高并发网络场景可适当提高。
- connectionTimeout：连接超时，避免长时间占用连接。
- 功能开关：关闭 enableLookups（避免 DNS 反向解析）、开启 GZIP 压缩（减少传输体积）。

示例（server.xml 片段）：

<Executor name="tomcatThreadPool"
        namePrefix="catalina-exec-"
        maxThreads="800"
        minSpareThreads="50"
        maxSpareThreads="200"
        maxIdleTime="60000"
        prestartminSpareThreads="true"/>

<Connector executor="tomcatThreadPool"
           port="8080"
           protocol="org.apache.coyote.http11.Http11Nio2Protocol"
           connectionTimeout="20000"
           redirectPort="8443"
           enableLookups="false"
           acceptCount="1000"
           maxConnections="10000"
           compression="on"
           compressableMimeType="text/html,text/xml,text/css,text/javascript,application/javascript"/>

注：参数需结合CPU/内存/网络/应用特性压测后微调，避免“越大越好”。

三 JVM 与内存调优

堆与模式：设置 -Xms/-Xmx 为相同值（如物理内存的约一半，留出余量给系统与其他进程），启用 -server 模式以获得更成熟的 JIT 与运行时优化。
垃圾回收器：优先选择 G1GC（大堆、低停顿），根据停顿目标与吞吐目标进一步细化 Region/回收参数。
元空间：JDK 8+ 使用 Metaspace（移除 PermGen），按需设置 -XX:MaxMetaspaceSize，避免无限制增长。
线程栈：根据并发线程数调整 -Xss，避免栈过大挤占堆空间（常见 256k–1M 区间，需压测验证）。

示例（catalina.sh 或 /etc/default/tomcat9 中的 JAVA_OPTS）：

JAVA_OPTS="$JAVA_OPTS -server \
          -Xms4G -Xmx4G \
          -XX:+UseG1GC \
          -XX:MaxMetaspaceSize=512m \
          -Xss512k \
          -XX:+HeapDumpOnOutOfMemoryError \
          -XX:HeapDumpPath=/opt/tomcat/logs/heap.hprof"

建议配合 JConsole/VisualVM/MAT 持续观察 GC、内存与线程，定位泄漏与瓶颈。

四 Linux 系统层面优化

文件描述符限制：提升进程可打开文件数，避免“Too many open files”。
- 查看：ulimit -n
- 持久化：在 /etc/security/limits.conf 增加
```
* soft nofile 65536
* hard nofile 65536
```

网络与内核参数（/etc/sysctl.conf 或 sysctl -w）：

net.core.somaxconn = 4096
net.ipv4.tcp_max_syn_backlog = 4096
net.core.rmem_max = 1310720
net.core.wmem_max = 1310720
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_fin_timeout = 60
net.ipv4.tcp_syn_retries = 1
net.ipv4.tcp_synack_retries = 1
# 如内核与客户端支持再启用
# net.ipv4.tcp_fastopen = 3

说明：tcp_tw_recycle 已废弃且不建议开启；在高并发短连接场景，配合应用与内核参数共同治理 TIME_WAIT。

五数据库与应用层优化与压测闭环

数据库连接池：使用成熟连接池（如 HikariCP/DBCP/C3P0），合理设置最大连接数、最小空闲、超时、验证查询，避免数据库成为并发瓶颈；确保连接池上限小于数据库最大连接数，并匹配 wait_timeout 等参数策略。
应用优化：减少对象创建与锁竞争，优化慢查询与慢接口，合理使用缓存（本地/分布式），对外部依赖设置超时与熔断，避免雪崩。
监控与压测：使用 JConsole/VisualVM 观察线程、堆与 GC；用 Apache JMeter 进行阶梯式并发压测，围绕吞吐量、P95/P99 延迟、错误率与线程利用率迭代参数；必要时增加实例并配合 Nginx 做负载均衡。

0 赞

0 踩