CentOS 上优化 Kafka 磁盘 I/O 的实用方案
一 硬件与文件系统
- 存储介质优先选用 SSD/NVMe，顺序写性能与 IOPS 明显优于机械盘，能显著降低写放大与尾延迟。
- 文件系统建议 XFS（或 EXT4），并挂载时使用 noatime/nodiratime 减少元数据写入；为日志目录使用独立磁盘或 RAID0/条带化 提升并发吞吐。
- 多盘场景将 log.dirs 指向多个数据目录，分散 I/O 压力；必要时结合 LVM/条带化做容量与性能规划。
- 操作系统层面保持充足的 Page Cache，避免频繁直接刷盘；Kafka 本身依赖顺序写与 Page Cache 获得高吞吐。
二 操作系统与内核参数
- 降低换页倾向：设置 vm.swappiness=1，既减少 swap 对延迟的影响，又保留极端 OOM 时的安全垫。
- 控制脏页刷写：设置 vm.dirty_background_ratio=5（不超过 10），vm.dirty_ratio=60–80，避免过小导致持续刷盘、过大引发长 I/O 停顿。
- I/O 调度器：SSD 优先 noop/deadline，减少不必要的寻道与合并；机械盘可用 cfq。
- 预读与缓存：结合负载调整 read_ahead_kb；保持 Page Cache 为主，避免应用层过度 fsync。
- 稳定性：确保 ulimit -n（文件描述符）与 vm.max_map_count 足够大，避免 “Too many open files” 或 mmap 失败。
三 Kafka 服务端关键配置
- 并发与线程：
- num.network.threads：建议 CPU 核数 + 1，处理网络请求。
- num.io.threads：建议 2 × CPU 核数（不超过 3 ×），处理磁盘 I/O；通常至少等于数据盘数量。
- background.threads=10+、num.recovery.threads.per.data.dir=10+，加速启动恢复与后台任务。
- queued.max.requests=500+，提升峰值承载能力（注意内存占用）。
- 存储与段：
- log.dirs=/data1/kafka,/data2/kafka（多盘分散）。
- log.segment.bytes=2GB–4GB，减少段文件数量与滚动频率，降低文件元数据与刷盘抖动。
- log.retention.hours=72（按磁盘与业务调整），避免磁盘撑爆与频繁清理。
- log.cleaner.enable=true、log.cleaner.threads=4（SSD 场景可适当增加），提升日志清理效率。
- 刷盘与副本：
- 高吞吐场景适度放宽 log.flush.interval.ms（如 60000 ms），更多依赖 Page Cache 与批量落盘；可靠性优先则缩短间隔。
- 提升副本同步并发：num.replica.fetchers 适度增大（注意磁盘与网络平衡）。
- 网络缓冲：适当增大 socket.send.buffer.bytes / socket.receive.buffer.bytes（如 10 MB），减少小包与高并发下的网络瓶颈。
四 生产者与消费者侧协同优化
- 生产者：启用批量与压缩（如 compression.codec=gzip/snappy/lz4），增大批次与 linger.ms，减少小批随机写与网络往返；在可接受的延迟范围内优先选择异步发送。
- 消费者：适度增大 fetch.min.bytes / fetch.max.wait.ms，提高每次拉取有效载荷，降低磁盘与网络小 I/O 次数。
- 通用：合理规划 分区数 与 副本数，避免热点分区与不均衡导致的单盘/单分区 I/O 拥塞。
五 监控与排障流程
- 快速定位瓶颈：
- 磁盘：iostat -x 1 观察 %util、await、svctm，持续接近 100% 多为磁盘瓶颈。
- 进程/线程：top/pidstat 查看 kafka I/O 线程 的 CPU 占用与系统调用。
- 定位热点分区与目录：
- 按目录统计容量：du -sh log.dirs/ | sort -rh | head*；
- 统计分区段文件数：ls -l log.dirs/topic-0 | grep .log$ | wc -l。
- 基准与回归：
- 使用 kafka-producer-perf-test.sh 进行吞吐/延迟压测，验证调优收益；
- 建立磁盘与分区监控告警（如 %util > 80%、单分区异常增长）。