Linux CPUInfo 中 L2 Cache 大小对性能的影响
核心结论
- L2 Cache 是每核私有的高速缓存，容量越大，能容纳的热点数据越多，L2 命中率越高，从而减少访问更慢的 L3/内存 的次数，降低平均访存延迟、提升吞吐。对内存带宽敏感或数据集较大的工作负载，增大 L2 往往能带来更明显的收益；对L1 命中率很高或计算密集且数据复用低的负载，提升会相对有限。不同微架构对 L2 的依赖强弱不同，某些 AMD 微架构中 L1 直存数据使得 L2 的相对作用会弱于 Intel 的某些设计，但总体规律不变：更大的 L2 通常意味着更高的命中率与更低的访存成本。
工作原理与延迟层级
- 典型命中路径为：L1 → L2 → L3 → 内存。L1/L2 通常为每核私有，L3 多为多核共享；数据以**Cache Line（常见为 64B）**为单位加载。典型访问延迟大致为：L1 ≈ 2–4 周期、L2 ≈ 10–20 周期、L3 ≈ 20–60 周期、内存远高于此。因而在 L1 未命中时，更大的 L2 能更多地“兜住”后续访问，避免频繁下落到 L3/内存。
在 Linux 中查看 L2 Cache 信息
- 推荐命令：
- lscpu：概览各级缓存容量
- 查看具体 L2 目录与属性（以 cpu0 为例）
- 路径：/sys/devices/system/cpu/cpu0/cache/index2/
- 关键文件：size（容量）、type（类型）、level（层级）、coherency_line_size（Cache Line，常见 64B）
- 其他：dmidecode -t cache、getconf -a | grep CACHE
- 这些方式可快速确认L2 大小、共享属性与行大小，为性能分析与调优提供依据。
影响大小的负载特征与可量化指标
- 更受益的场景
- 大数据集/低复用：工作集超过 L1/L2 时，更大的 L2 显著降低 L3/内存访问频次。
- 顺序/局部性较好：连续访问、循环体较大或数据复用跨度适中，利于 L2 利用空间局部性。
- 内存带宽受限：如流式处理、部分数值计算，L2 增大可减少跨层级访存带来的带宽压力。
- 受益有限的场景
- L1 命中率极高：热点完全落在 L1，L2 增大对总体延迟影响小。
- 高度随机、低复用：频繁跳转到不同地址，缓存难以有效驻留有用数据。
- 流式/一次性扫描：更适合使用非临时访问（non-temporal）/流式存储提示，减少缓存污染。
- 评估与观测
- 用基准测试观察不同数据规模下的时延阶梯（L1/L2/L3/内存），定位瓶颈层级。
- 关注缓存效率指标：MPKI（每千条指令未命中数）/MPI（每指令未命中数），一般 MPKI/MPI 越低越好；经验上 MPI > 4% 常提示缓存优化空间较大（需结合具体负载判断）。
优化建议
- 提升空间局部性：数据结构对齐与顺序访问，尽量按**Cache Line（64B）**步幅访问/遍历，减少跨行与伪共享。
- 减少伪共享：多线程对同一缓存行的不同变量并发写会触发频繁失效，可通过填充/对齐将热点变量隔离到不同行。
- 降低缓存污染：对只写一次或流式数据，使用**非临时写（non-temporal store）**或显式缓存旁路，避免挤占 L2/L3 中可复用的热点数据。
- 合理并行粒度与亲和性：绑定线程到核心，减少跨核迁移导致的缓存失效；结合 NUMA 亲和性布局数据，缩短访存路径。