本地缓存的三种实现

本地缓存

本地缓存的实现

常见的本地缓存三种实现：

• 使用Java或自定义数据结构构造JVM本地缓存，大多数场景下ConcurrentHashMap就可以支持的很好

• 使用Guava LoadingCache构造本地缓存，支持配置加载（LRU最近最少使用算法）

• 使用Caffeine Cache构造本地缓存，它是对LoadingCache的优化（TinyLfu ，近似的LFU算法）

• Caffeine: Caffeine 使用的缓存淘汰算法比 Guava 的 LRU 更先进、更复杂和高效。它基于 Window TinyLfu。

  • TinyLfu (Tiny Least Frequently Used): 这是一种近似的 LFU (Least Frequently Used，最不常用) 算法，它通过一个紧凑的数据结构（如 Count-Min Sketch）来估计条目的访问频率，即使条目被淘汰后，它的频率信息也能保留一段时间。这使得 TinyLfu 对扫描抵抗（scan resistance）有更好的表现，即短暂的大量访问不会轻易冲垮整个缓存。

  • Window: Caffeine 将缓存分为一个小的“窗口”区域和一个大的“主”区域。新加入的条目首先进入窗口，窗口通常使用 LRU 进行管理。

  • Admission Policy (录取策略): 当窗口中的条目要进入主区域，或者有新条目要替换主区域中的条目时，Caffeine 会使用 TinyLfu 估算的频率信息来决定是否“录取”这个条目进入主区域，以及淘汰主区域中的哪个条目。主区域通常也使用 LRU 或类 LRU 策略进行管理。