1.提出问题?

长视频理解卡在 token 上,前人两条路都有硬伤:

  1. 手工流水线派(VideoTree 这类):人写死 "先分段→打字幕→打分→建树" 的流程,再强的底座模型也被框死在流水线里,自主性差,看片中途想 "回去重看某段" 做不到;

  2. 静态数据库派(DVD 这类):先把视频每 10 秒切一段,不管和问题有没有关,全部让 MLLM 预分析一遍建库。结果是每段都看,token 烧得飞起(30 分钟视频理论要 398 万视觉 token),而且库是死的,不能根据问题动态调整。

核心痛点:怎么既不把整部片子塞进上下文,又能让模型根据问题动态地、粗到细地去找证据?

2.解决问题?

两大件:

① HM3 分层多模态记忆(三层金字塔)

② 粗到细的 Agent 循环(两组工具)

VideoARM2VideoARM1

3.成果

4.启发

  1. 开辟了之前调研路线 "正交" 的第三条路:MovieChat/LLaMA-VID 是 "把每帧压成 1~2 token"(embedder 端压缩);VideoARM 干脆不让无关帧进入上下文—— 不压 token,而是少看帧。综述里可以把长视频方案分成两派:压缩派 vs Agent 按需观看派。

  2. 好印证了之前那个判断:"先分析再回答" 不适合改视觉 token 本身(会丢信息),但非常适合做观看调度——VideoARM 里 o3 完全不碰视觉嵌入表示,只决定调哪个 API、传哪个帧区间,一次都不丢视觉信息。

  3. 三个可抄的设计:① Clip Analyzer 强制输出置信度,把 "我没把握" 显式喂回循环,控制器据此决定停不停;② 每帧左上角打白色全局帧号、拼成 3×2 马赛克,让 LLM 能在拼图里报出帧号,闭环回时间定位;③ 工作记忆把推理轨迹搬出主上下文,本身就是一种上下文级 token 压缩。

  4. 它的软肋 = 切入点:论文自承 —— 开局若漏掉 "一闪而过" 的关键事件(遮挡重、只持续几帧),后续没有机制发现 "我一开始就找错了",整条链就废;且重度依赖闭源 o3/GPT-4o,换开源模型掉点明显。"开局找错了能自我纠正" 和 "把这套 agent 循环搬到开源模型上",就是两个现成的改进方向