跳转至

CVPR 2026 | 只改少量关键方向,模型就能连续适应?南大GOLD来了

Ch01.870 CVPR 2026 | 只改少量关键方向,模型就能连续适应?南大GOLD来了

📊 Level ⭐⭐ | 7.4KB | entities/cvpr-2026-只改少量关键方向模型就能连续适应南大gold来了.md

CVPR 2026 | 只改少量关键方向,模型就能连续适应?南大GOLD来了

CVPR 2026 | 只改少量关键方向,模型就能连续适应?南大GOLD来了


source: wechat source_url: https://mp.weixin.qq.com/s/WhrwcGyzcyh554KZAJQFKA ingested: 2026-07-05

source_published: 2026年7月2日 22:04


CVPR 2026 | 只改少量关键方向,模型就能连续适应?南大GOLD来了

上线后的视觉模型,面对的从来不是一个静态测试集,而是一条持续变化的数据流。

自动驾驶摄像头会从白天驶入黑夜,从晴天进入雨雾;视频分析系统会不断遇到新的光照、视角和场景;医学影像模型也可能因为采集协议、设备型号或人群分布变化而遭遇域偏移。

对于真实部署环境中的视觉模型来说,分布变化不是例外,而是常态。

这正是 Continual Test-Time Adaptation(CTTA)试图解决的问题:模型已经在源域完成训练,部署后无法再访问源数据,只能接收无标签的目标域数据流,并且每个样本通常只会按顺序经过一次。

模型需要一边推理、一边适应新的分布,同时还不能因为适应过程中的噪声和漂移把自己“改坏”。

然而,在线适应天然存在一个矛盾:如果更新得太少,模型很难跟上持续变化的测试分布;如果更新得太多,推理成本会迅速上升,伪标签噪声会被不断放大,参数也可能在长程数据流中逐渐漂移,最终导致性能塌陷。

换言之,CTTA 的核心难点并不只是“如何适应”,而是“应该在哪里适应、适应多少、以及如何避免越改越差”。

本文从一个更直接的问题切入:如果完整特征空间既庞大又危险,那么是否存在一块更小、更关键、也更稳定的适应空间?

我们发现,连续测试时适应并不一定需要在整个高维特征空间中反复调整;真正有效的更新方向,可能集中在一块由预训练分类器决定的低秩子空间中。

我们将其称为 golden subspace,并进一步提出 Guided Online Low-rank Directional adaptation(GOLD),通过在线维护这一“黄金子空间”,让模型在部署阶段以更轻量的方式完成连续适应。

大量分类与分割实验表明,GOLD 在效率、稳定性和整体性能之间取得了更好的平衡,为真实场景中的视觉模型部署提供了一种更高效、更稳健的测试时自适应方案。

论文标题:

The Golden Subspace: Where Efficiency Meets Generalization in Continual Test-Time Adaptation

论文作者:

Guannan Lai, Da-Wei Zhou, Zhenguo Li, Han-Jia Ye

作者单位:

Nanjing University;Hong Kong University of Science and Technology;Frontier Robotics

录用会议:

CVPR 2026

论文地址:

https://arxiv.org/abs/2603.21928

代码地址:

https://github.com/AIGNLAI/GOLD

引言

视觉模型在实验室中通常面对的是固定测试集,但在真实部署中,它们遇到的是一条持续变化的数据流。

自动驾驶系统会经历白天、黑夜、雨雾、逆光等复杂环境变化;安防与视频分析模型会遇到新的摄像头、视角、场景和人群分布;医学影像模型也可能因为扫描设备、采集协议或患者群体变化而产生域偏移。

对于这些长期运行的视觉系统而言,模型能力不能只停留在训练完成的那一刻,而需要在部署过程中持续适应环境变化。

这类问题与持续学习密切相关:模型需要在不断变化的数据分布中保持可用性,既要吸收新环境中的信息,又不能因为更新过程破坏已有能力。

不同的是,在真实测试阶段,模型往往无法访问源域训练数据,也拿不到目标域标签,只能依赖连续到来的无标签样本进行在线调整。

测试时适应(Test-Time Adaptation, TTA)正是围绕这一问题展开:模型在测试阶段利用无标签目标数据修正自身状态,从而缓解训练分布与测试分布之间的偏移。

进一步地,Continual Test-Time Adaptation(CTTA)将 TTA 放到更加真实也更加困难的连续非平稳场景中:数据分布持续变化,样本按顺序到达,模型每一次适应都会影响后续状态。

因此,CTTA 不是一次性的微调问

-> 原文存档


关联