当前位置: 首页 > ai >正文

深入浅出限流算法(三):追求极致精确的滑动日志

在限流的世界里,精度往往是关键。我们已经讨论过固定窗口(简单但有突刺)和滑动窗口(更平滑但仍有格子边界)。如果我们需要更精确的控制,滑动日志 (Sliding Log) 算法便登场了。

核心思想:记录每一笔“交易”

想象一下,你不再关心“格子”,而是为每一个到达的请求都记下精确的时间戳,就像一本详细的日志。

当新请求到来时:

  1. 回顾日志:查看过去固定时间窗口(例如 1 秒)内的所有时间戳记录。

  2. 清理旧账:忽略(或删除)所有超出这个时间窗口的旧记录。

  3. 计数:统计窗口内剩余记录的数量。

  4. 决策:

    • 如果数量小于限制,接受请求,并将新请求的时间戳加入日志。
    • 如果数量达到或超过限制,拒绝请求。

这种方式理论上能提供最精确的限流,因为它关注的是每个单独的请求事件。

Java 实现:用 TreeMap​ 优化内存

直接存储每个请求的时间戳在高并发下可能导致内存爆炸。一个常见的优化是按时间单位(如毫秒)分组,记录每个单位时间内到达的请求数。Java 的 TreeMap<Long, Long>​ 非常适合这个任务:

  • Key (Long): 时间戳(毫秒)。TreeMap​ 自动保持时间排序。
  • Value (Long): 该毫秒到达的请求数量。
// 简化版核心逻辑示意
public synchronized boolean tryAcquire() {long now = System.currentTimeMillis();long windowStart = now - 1000; // 1秒窗口起点// 1. (可选) 清理非常旧的数据,防止 Map 无限增长// treeMap.headMap(now - cleanupInterval).clear();// 2. 高效计算窗口内总数 (利用 TreeMap 的 subMap)long sum = treeMap.subMap(windowStart, true, now, true).values().stream().mapToLong(Long::longValue).sum();// 3. 检查限制if (sum >= QPS) {return false; // 超限,拒绝}// 4. 记录当前请求 (对当前毫秒的计数 +1)treeMap.compute(now, (k, v) -> (v == null) ? 1L : v + 1L);return true; // 允许
}

​TreeMap​ 的 subMap​ 操作能高效地提取出所需时间窗口内的数据进行求和。

优点

  • 极高精度:几乎完全消除了窗口边界效应,限流非常精确。
  • 概念清晰简单。

缺点

  • 内存消耗大:即使按毫秒分组,存储时间戳和计数的 TreeMap​ 仍然比简单的计数器或固定数组占用更多内存,尤其是在高 QPS 下。
  • 并发性能:简单的 synchronized​ 实现可能在高并发下成为瓶颈。

总结

滑动日志算法提供了无与伦比的限流精度,是追求严格控制流量速率场景下的有力武器。然而,这种精度是以更高的内存消耗为代价的。在选择它时,需要仔细权衡精度需求与系统资源限制。


http://www.xdnf.cn/news/2512.html

相关文章:

  • threejs学习002-场景中添加几何体
  • Kubernetes》》k8s》》explain查 yaml 参数
  • OpenCV 图形API(67)图像与通道拼接函数-----水平拼接(横向连接)两个输入矩阵(GMat 类型)函数concatHor()
  • STM32 HAL库实现USB虚拟串口
  • 蓝桥杯算法实战分享
  • Lua 第13部分 位和字节
  • 《Science》观点解读:AI无法创造真正的智能体(AI Agent)
  • Python中的Walrus运算符分析
  • HikariCP 6.3.0 完整配置与 Keepalive 优化指南
  • 1.1 道路结构特征
  • 【博通芯片方案】调试指令详解版一(无线)
  • Docker容器跑定时任务脚本
  • 分布式一致性算法起源思考与应用
  • 4.2.2 MySQL索引原理以及SQL优化
  • Bolt.diy 一键部署,“一句话”实现全栈开发
  • GAMES202-高质量实时渲染(homework1)
  • 【Redis】初识Redis
  • Java : GUI
  • MySQL(聚合函数)
  • 动态规划算法题1
  • 如何搭建行业社区?----以装修行业为例
  • 迷你世界UGC3.0脚本Wiki角色模块管理接口 Actor
  • 函数的使用
  • 诗词软件开发实战:从零开始构建现代诗歌应用
  • 北极花深度融合DeepSeek大模型,全面助力生物多样性智能分析图片生物多样性智能分析
  • Spring的Bean和自动配置
  • linux两个特殊的宏 _RET_IP_ 和_THIS_IP_ 实现
  • GPUStack昇腾Atlas300I duo部署模型DeepSeek-R1【GPUStack实战篇2】
  • 单片机-89C51部分:5、点亮LED
  • 纳米级形貌快速测量,白光干涉仪助力摩擦磨损学科发展