Summary

对 long-horizon search agent 最简上下文管理手段(mask 掉最近 K=5 之外的 stale observations)的系统 regime 研究:增益随”无 CM 基线准确率”呈不对称倒 U——弱 retriever 下低平台(+6.2~6.6)、强 retriever × 中等能力模型达峰(+11.7)、模型饱和时崩塌为零甚至负(−1.1,live-web 上 −4.8);机制是 token-for-turn 交换,决定因素是 retriever recall × 模型隐式过滤能力的交互而非任一单因素——把”context 压缩单调有益”改写为 regime 依赖的干预。

Problem & Motivation

Search agent 跨多次 tool call 积累大量检索内容,observation masking 是最常用的省 context 手段,但”何时有效、为什么”从未被系统回答——各论文在单一 setting 里报告收益,形成”压缩总是好的”错觉。本文用 backbone(4B–284B,9 个开源模型)× retriever(BM25 / Qwen3-Emb-8B / AgentIR-4B)× benchmark(offline BrowseComp-Plus 830 题 + live GAIA 103/xBench-DeepSearch 100/BrowseComp-ZH 289)的全扫描画出 regime map。

Method

  • 干预:保留最近 K=5 条 observations,更早的替换为固定 placeholder;tool-call error 消息豁免不 mask(消融证明必要)。500-turn 上限。
  • Regime 轴:以”无 CM 时的准确率”为横轴画增益曲线,分解 retriever recall 与模型能力两个因素。
  • 机制测量:per-step attention 分解(reasoning vs observations)、页面 re-open 行为统计、query 级 wrong→correct(fix)/correct→wrong(break)转移与 token 成本核算。

Key Results

Regime条件增益
Retriever 瓶颈平台BM25,recall ≤0.55+6.2 ~ +6.6 pts
CM 最优点AgentIR + Qwen3.5-35B-A3B(recall 0.88,基线 62.9%)+11.7 pts
模型饱和GPT-OSS-120B + AgentIR(recall 0.92,基线 79.4%)+0.1 pts
负塌陷Tongyi-DeepResearch(recall 0.93,基线 80.7%)−1.1 pts
  • Live-web 塌陷更锐:GPT-OSS-120B 在 GAIA 上被 masking 伤害 −4.8 pts。
  • 规模不选 regime:同为 35B-A3B 的 Qwen3.5 与 Qwen3.6 增益 +11.7 vs +3.7——训练状态而非参数量决定隐式过滤能力(“mismatch, not size”)。
  • 机制(attention):reasoning 占 per-step attention 53.7% vs observations 25.6%;observation attention 高度前置(最近 10% turns 占 65%,中段塌到 ~1%);re-open 双峰(只重开最新页与首页)。masking 删的多是模型本就不再看的内容。
  • 机制(转移核算):fix 省 token、break 费 token;高增益 regime fix:break ≈ 3:1,饱和 regime ≈ 1:1(互相抵消)。
  • 饱和的代价形态:masking 使 tool calls 激增(GPT-OSS-120B +68.7 次/query、DeepSeek-V4-Flash-Max +57.7)——省下的 token 被换成更多 turn。
  • 消融:连 error 一起 mask → open errors 18.60%→22.61%(4B);模糊标题迫使推断 URL → 20.75%(4B)/26.24%(9B)。
  • 建议:工程重心应从激进启发式剪枝转向 high-fidelity retrieval——提升 retriever 从根本上抬高信号上界,masking 在模型饱和时有证据误删风险。

Evidence Ledger

Claim IDClaimTypeSource locatorEvidence excerptStatus
C1K=5 保留窗 + placeholder;error 豁免;9 backbone × 3 retriever;830/103/100/289 题benchmark-setting§3 Methodology”observation retention window of K=5”source-verified
C2倒 U 四点:+6.2~6.6(BM25)/+11.7(峰)/+0.1(饱和)/−1.1(负)number§Main Results Table 1”peak gain, +11.7 … recall 0.88 … 62.9%“source-verified
C3live-web 塌陷:GPT-OSS-120B GAIA −4.8number§Main Results”harmed by −4.8 pts on GAIA”source-verified
C4同尺寸不同训练态增益 +11.7 vs +3.7;决定因素为 recall × 隐式过滤能力交互causal-mechanism§Findings; Abstract”interaction between retriever recall and the model’s implicit filtering capacity”source-verified
C5attention:reasoning 53.7% vs obs 25.6%;obs 前置 65%@最近 10% turns;中段 ~1%number§5.3.1 Fig 6”reasoning captures 53.7% of the per-step attention budget”source-verified
C6fix 省/break 费;fix:break 3:1(高增益)vs 1:1(饱和)number§5.3 Fig 4”fixes outnumber breaks roughly 3:1”source-verified
C7饱和下 tool calls +68.7(GPT-OSS-120B)/+57.7(DeepSeek-V4-Flash-Max)numberTable 1”+68.7 per query”source-verified
C8mask error → 18.60→22.61%(4B,9B 为 20.41→24.56);模糊标题迫使 URL 推断 → 20.75/26.24%number§Ablation Table 2”18.60% → 22.61%“source-verified
C9边界:仅 minimal turn-based masking;仅开源模型;descriptive 非 predictivebenchmark-setting§Limitations”descriptive rather than predictive”source-verified
C10建议转向 high-fidelity retrieval;scaffold+轨迹开源sota-novelty§Conclusion”pivot from aggressive heuristic pruning toward high-fidelity retrieval”source-verified

Strengths & Weaknesses

Strengths

  • 把散落各论文的”masking 有效/无效”矛盾统一进一张 regime map,并用 attention + re-open + 转移核算三层机制解释——是”context 压缩单调有益”主张的系统证伪(2026-07-27-WebAgent-RL-and-Context-Landscape §4 争议行的证据)。
  • “mismatch, not size” 是最有信息量的发现:同尺寸不同训练态 regime 位置不同,意味着部署前无法仅凭模型规格决定是否开 masking,需要按 baseline 准确率探针定位 regime。
  • 与 CUA 域 2604-ReadMoreThinkMore(强模型用完整 HTML 反而更好、弱模型相反)跨域同构:两者共同把 observation reduction 从”能力优化”改写为”regime 依赖干预”,本篇额外补了机制层(attention 前置化 + fix/break 核算)。

Weaknesses / 边界

  • 全部实验在文本检索型 search agent(BrowseComp/GAIA 类)上,无 GUI/screenshot observation——对 CUA 的 observation reduction 只能作邻接可迁移证据,GUI 域的 stale screenshot masking 是否同构未测。
  • 只测了最简 turn-based 策略;learned/attention-guided/semantic 策略是否改变 regime 边界留空——作者自认框架 descriptive 非 predictive。
  • 无 frontier 闭源模型;饱和阈值(无 CM >70% @BrowseComp-Plus)是经验性的、benchmark 相对的。

对领域:为上下文管理干预建立了”先定位 regime 再决定干预”的评估范式;饱和模型 + 强 retriever 时 masking 默认应关闭。

Mind Map

mindmap
  root((MaskingRegimeMap))
    Problem
      masking何时有效无人系统回答
      单setting报告造成压缩恒益错觉
    Method
      K5保留窗placeholder
      9backbone x 3retriever全扫描
      attention与转移核算
    Results
      不对称倒U四regime
      mismatch not size
      fix省token break费token
      饱和时tool calls激增

Notes

  • 入队来源:2026-07-27-WebAgent-RL-and-Context-Landscape §6 证伪型对照 top-3 之三(rationale:“上下文遮蔽的有效/失效 regime 边界与机制”)。检验结果:§4 争议行”context 压缩单调有益”被 regime map 正式否定,有效区间收窄为”retriever 强 × 模型未饱和”。
  • 至此 07-27 报告的证伪型 top-3(2606.15017 / 2606.24551 / 2606.00408)全部 digest 完毕,三条争议主张均获裁决。
  • 对 CUA-Survey §6.7.2(observation reduction 条件性收益):本篇与 ReadMoreThinkMore 构成跨域双数据点(search 域 + web GUI 域),且提供了 GUI 域缺失的机制测量模板(attention 前置化、re-open 双峰、fix/break 核算)——若做 GUI 版 regime map,这三个测量是现成协议。