Java Cache缓存实现原理是什么

Java Cache 缓存实现原理

一 核心组成与工作流程

• 存储结构：以Map<K,V>为核心，结合并发容器（如ConcurrentHashMap）保证线程安全；容量受限时配合LRU/LFU/FIFO等淘汰算法维护热点数据。
• 过期控制：支持TTL（存活时间）与TTI（空闲时间）；工程上常采用“惰性删除 + 定期清理”的组合，既保证命中路径低开销，又避免过期堆积。
• 并发与可见性：读多写少场景用读写锁/分段/无锁等技术降低竞争；必要时结合弱引用/软引用缓解内存压力。
• 加载与回填：通过CacheLoader/异步刷新实现“Cache-Aside”“Read-Through”“Write-Through/Write-Behind”等模式，屏蔽数据源差异并提升吞吐。
• 监控与治理：记录命中率、加载时间、驱逐原因等指标，配合告警与容量规划实现可观测与稳态运行。

二 本地缓存实现要点

• 基础容器选型：简单场景可用HashMap/ConcurrentHashMap；需要按访问顺序淘汰时，用LinkedHashMap(accessOrder=true)实现LRU。
• 典型流程：
  1. 读：get(key) → 命中返回；未命中则调用loader回填并写入；
  2. 写：put(key,value) → 可能触发驱逐（基于大小/策略）；
  3. 过期：get/put 时惰性检查；后台定时任务扫描清理；
  4. 并发：读并发、写互斥或分段锁，避免热点 key 争用。
• 工程化能力：设置maximumSize、expireAfterWrite/expireAfterAccess、refreshAfterWrite、removalListener、recordStats等，平衡命中率、延迟与内存。

三 分布式缓存与 Java 生态集成

• 角色定位：以Redis/Memcached等为远程集中式缓存，多实例共享数据、容量可横向扩展，代价是网络往返与序列化开销。
• 常见模式：
  • Cache-Aside（应用侧读写缓存与数据源）；
  • Read-Through/Write-Through（缓存层代理数据源读写）；
  • Write-Behind（异步写回，提高写吞吐，需处理一致性与回放）。
• Java 集成：
  • JSR 107（JCache）提供统一Cache/CacheManager/CachingProvider接口；
  • Spring Cache以注解（如**@Cacheable/@CacheEvict**）屏蔽底层实现；
  • Spring Data Redis提供RedisCacheManager与TTL配置，快速落地分布式缓存。

四 关键策略与常见问题

• 淘汰与过期：容量淘汰用LRU/LFU/FIFO；时间维度用TTL/TTI；实现上结合惰性删除 + 定期清理降低开销与堆积风险。
• 并发控制：热点 key 采用分段/本地锁/无锁读等手段降低争用；批量写与异步刷新减少阻塞。
• 内存治理：设置maximumSize、使用弱/软引用、必要时启用堆外/磁盘分层存储，避免OOM与长 GC 暂停。
• 典型问题治理：
  • 缓存穿透：对不存在 key 缓存短 TTL 空值或用布隆过滤器预检；
  • 缓存雪崩：过期时间加随机抖动、分批过期；
  • 缓存击穿：热点 key 永不过期或互斥重建（single-flight）。
• 监控指标：关注命中率、平均加载时间、驱逐数量、并发争用，结合压测与容量水位动态调参。

五 选型与实践建议

• 选型速览：
  • Caffeine：本地高性能，基于W-TinyLFU，低延迟，适合热点数据与单机场景；
  • Guava Cache：本地通用库，API 完备，适合稳定兼容诉求；
  • Ehcache 3.x：支持堆内/堆外/磁盘多级存储，适合需要持久化或较大容量；
  • Redis：分布式共享，适合多实例与数据共享，注意网络与序列化成本。
• 实践要点：
  • 明确一致性目标（强一致/最终一致）与回源路径；
  • 合理设置TTL/Size/Refresh，并开启统计与告警；
  • 在Kubernetes等容器化环境结合资源限制与水平扩展做容量规划。