M2N2 解读

出处：AAAI 2024

代码链接：carrtesy/M2N2: Official repository for the paper "When Model Meets New Normals: Test-time Adaptation for Unsupervised Time-series Anomaly Detection", AAAI 2024.

一  提出动机

分布偏移：“正态性” 的概念伴随时间的推移变化；

"new normal problem"：仅根据训练数据无法完全表征测试时间内的正态分布。若不考虑分布变化，模型往往依赖于过去的观测产生误报，从而损害监测系统的一致性；

测试时间自适应方法 更新模型参数，以推广到不同的数据分布，不依赖于标签的额外监督，或对训练数据的访问；

TSAD 有应用 测试时间自适应（test-time adaptation mechanisms） 策略的动机：

① 由于监测系统实时工作，频繁访问过去的适应数据成本很高；

② 由于获取标签通常有限，因此需要在没有监督的情况下进行模型更新；

③ 基于假设：训练数据 及 测试数据 分布不同；

PS. 提出的 TTA 模块 可无缝衔接其他 TSAD 基线，是重要的实验现象发现！

二  Method

① 趋势估计模块，旨在：适应趋势显著不同的新常态，同时保留 历史序列 的 潜在动态模式；

过渡前后的序列具有相同动态，但趋势转变后的观测结果被归类为异常，未对趋势进行适当的适应（见上图）。为解决此问题，简单使用指数移动平均统计数据进行趋势估计：

解读：

② TTA 模块：

在无监督时序异常检测任务内，测试阶段也未包含带标签的时序数据，因此以 模型预测结果 为基准，挑选正常时序数据；用于在测试阶段更新模型参数；

采用 在线梯度下降策略（online gradient descent (Zinkevich 2003)），以更新模型参数：

损失值计算：以模型预测结果为基准，只计入由 “模型预测的、正常时序数据” 的重建损失：

三  实验结果