当前位置：首页 > ds >正文

深入实践Caffeine+Redis两级缓存架构：从原理到高可用设计

ds 2025/7/4 9:34:32

一、为何需要两级缓存架构？

在分布式系统中，Redis作为分布式缓存已广泛应用。但当系统面临超高并发读取（如热点商品详情页访问）或超低延迟要求（如金融行情数据推送）时，纯远程缓存面临两大瓶颈：

网络IO开销：每次Redis访问需10-50ms的网络延迟
带宽瓶颈：单节点Redis吞吐量上限约10万QPS

通过引入Caffeine本地缓存作为一级缓存，Redis作为二级缓存，可实现：

二、核心架构设计与挑战

1. 数据访问流程

public User getUserById(Long userId) {String key = "user:" + userId;// 1. 先查CaffeineUser user = caffeineCache.get(key, k -> {// 2. 未命中则查RedisObject obj = redisTemplate.opsForValue().get(k);if (obj != null) return obj;// 3. Redis未命中查DBUser dbUser = userMapper.selectById(userId);redisTemplate.opsForValue().set(k, dbUser, 30, TimeUnit.SECONDS);return dbUser;});return user;
}

命中率提升效果：本地缓存可达95%+，整体命中率99%+

2. 关键优势对比

指标	纯Redis缓存	两级缓存架构	提升幅度
平均响应时间	1-10ms	100ns-1ms	10-100倍
数据库请求量	100%	<1%	99%+
Redis带宽占用	100%	10%-30%	70%-90%

3. 核心挑战与解决方案

挑战一：缓存一致性

问题场景：集群中节点A更新数据，节点B仍读旧缓存
解决方案：Redis Pub/Sub + 本地缓存失效

// 配置Redis消息监听
@Bean
public RedisMessageListenerContainer container(RedisConnectionFactory factory) {RedisMessageListenerContainer container = new RedisMessageListenerContainer();container.setConnectionFactory(factory);container.addMessageListener((message, pattern) -> {String key = new String(message.getBody());caffeineCache.invalidate(key); // 失效本地缓存}, new ChannelTopic("cacheEvict"));return container;
}// 数据更新时发布消息
public void updateUser(User user) {userMapper.updateById(user);redisTemplate.delete(key);redisTemplate.convertAndSend("cacheEvict", key); // 发布失效通知
}

实测效果：万级QPS下，缓存同步延迟<5ms

挑战二：缓存穿透/雪崩

解决方案组合：

Caffeine.newBuilder().maximumSize(10_000) // 限制本地缓存数量.expireAfterWrite(10, TimeUnit.SECONDS) // 短TTL.refreshAfterWrite(1, TimeUnit.SECONDS) // 异步刷新.recordStats() // 开启监控

配合Redis：

spring:redis:timeout: 100ms # 快速失败lettuce:pool:max-active: 200 # 连接池优化

三、三种实现方案深度对比

方案1：手动编码模式

适用场景：需要精细控制缓存逻辑

// 手动查询两级缓存
public User queryUser(long userId) {String key = "user-" + userId;return (User) caffeineCache.get(key, k -> {Object redisVal = redisTemplate.opsForValue().get(k);if (redisVal != null) return redisVal;return userMapper.selectById(userId);});
}

优点：完全掌控缓存逻辑
缺点：代码侵入性强

方案2：Spring Cache注解

配置示例：

@Configuration
@EnableCaching
public class CacheConfig {@Beanpublic CacheManager cacheManager() {CaffeineCacheManager manager = new CaffeineCacheManager();manager.setCaffeine(Caffeine.newBuilder().expireAfterWrite(10, TimeUnit.SECONDS).maximumSize(1000));return manager;}
}// 业务层使用
@Service
public class UserService {@Cacheable(value="users", key="#userId", condition="#userId%2==0")public User getUser(Long userId) {return userMapper.selectById(userId);}
}

注解对比：

注解	作用	关键参数
`@Cacheable`	查询数据时缓存结果	`key`, `condition`, `unless`
`@CachePut`	强制更新缓存	`key`
`@CacheEvict`	删除缓存	`allEntries`, `beforeInvocation`

方案3：自定义注解（推荐生产环境使用）

定义注解：

@Target(ElementType.METHOD)
@Retention(RetentionPolicy.RUNTIME)
public @interface DoubleCache {String cacheName();String key(); // 支持SpEL表达式long l2TimeOut() default 120;CacheType type() default CacheType.FULL; // FULL/PUT/DELETE
}

切面核心逻辑：

@Aspect
@Component
public class CacheAspect {@Around("@annotation(doubleCache)")public Object handleCache(ProceedingJoinPoint pjp, DoubleCache doubleCache) throws Throwable {String realKey = parseKey(doubleCache, pjp); // 解析SpELswitch (doubleCache.type()) {case PUT: Object result = pjp.proceed();updateCache(realKey, result); return result;case DELETE:deleteCache(realKey);return pjp.proceed();default: // FULLif (caffeineCache.getIfPresent(realKey) != null) return caffeineCache.getIfPresent(realKey);if (redisTemplate.hasKey(realKey)) {Object val = redisTemplate.opsForValue().get(realKey);caffeineCache.put(realKey, val);return val;}Object dbResult = pjp.proceed();updateCache(realKey, dbResult);return dbResult;}}
}

四、高可用设计最佳实践

本地缓存策略优化

Caffeine.newBuilder().maximumSize(10_000) // 防OOM.expireAfterWrite(15, TimeUnit.SECONDS) // 短TTL保新鲜.refreshAfterWrite(1, TimeUnit.SECONDS) // 后台刷新.recordStats() // 监控命中率.writer(new CacheWriter() { // 淘汰监听public void delete(String key, Object value, RemovalCause cause) {log.info("Evicted key: {}, Cause: {}", key, cause);}});

Redis层优化建议
- 使用HashTag保证热点数据分片均衡：user:{12345}:profile
- 设置差异化TTL防雪崩：baseTTL + random(0, 300)
- 大Value压缩：redisTemplate.setValueSerializer(new SnappyRedisSerializer())
监控指标体系

监控项健康阈值工具
Caffeine命中率 >85% cache.stats().hitRate()
Redis延迟 <50ms Redis SLOWLOG
本地缓存内存占用 <JVM堆的30% JMX Metrics