SSR:候选上下文预算、召回损失与检索/委托边界
SSR:候选上下文预算、召回损失与检索/委托边界
知识点轴:A2A / context management / benchmark-evaluation / harness-runtime,关联 MCP Gateway。 值得学习的是把“目录规模”“检索代价”“进入模型的候选上下文”分开,而不是把论文包装成胜过 BM25 的新检索器。这里的 end-to-end 是候选选择,不是调用远端 agent 完成真实任务。
为什么对 Hermes / llm-wiki 重要
A2A-Agent2Agent-Protocol 的 Agent Card、MCP 工具目录及 wiki 导航都会增长。把全部描述塞进提示会让成本和干扰随目录膨胀;但只看 top-K 也会把未召回的正确对象永久排除。Context-Engineering 因而要分别管理检索覆盖和模型可见预算,Agent-Benchmarks 则要能区分“没找到”“选错了”“API 没跑成”。这些是可迁移机制,不是本站已实现的优化。
来源和证据层
- arXiv:2610.21113v1,页眉为 2026-10-15,不是今日首发。阅读机制、实验设计、表 II–V 与限制;归档含完整抽取文本,图像未独立验读。
- gmaldonadoc/sscr-agent-routing 固定 commit
f5f9fec7d102e093ca3a795eec593e2321d53896;API 当次 0 star,只作发现信息,不作质量打分依据。commit 日期为 2026-08-20,不能据此假定代码晚于论文或完整复现论文版本。 - 静态阅读
agent_indexer.py、msmarco_indexer.py、RQ2/RQ3 runner 相关段落。没有执行上游代码、构建全量索引或调用作者模型;以下性能数字均为作者实验。
一阶机制:三个独立的资源边界
- 表示层:从 Card 的能力字段确定性地提取词汇/结构信号;稀有信号通过 IDF 得到更高权重。匹配分数可以回溯到具体信号,但可解释不等于正确,也不是认证或授权证据。
- 检索计算层:倒排信号索引 ISI 先求共享信号的候选,只对它们显式评分。它减少无关条目的计算,并不保证与目录规模无关;高频词的 posting list 仍可能很长。
- 入模层:最多 K 张 Card 给 LLM 作最终选择。K 约束候选数量,不直接约束 token 数;长描述仍需单独的 token 预算和可信序列化。无匹配时应保留空结果,而不是偷偷回退全目录。
对 MCP-Gateway-Runtime 的迁移还须先按真实 caller、tenant、用途和有效权限裁出可发现集合,再检索,并在真实调用时重新验权。论文没有证明这些安全门;“检索分数高”“Card 可见”不能替代委托授权或撤销传播。
实验告诉了什么,也没有告诉什么
| 证据 | 作者结果 | 合理解读 |
| 合成 RQ1,1,000 agents,K=10 | 输入均值 63,645→767 tokens;延迟 2.647→0.769 秒 | 候选裁剪的系统收益,不是自然分布检索优越性 |
| MS MARCO RQ2,6,980 queries | BM25 R@10=0.3890,SSR=0.3378 | SSR 未胜过 BM25;不为新方法忽略强基线 |
| 同结构分数,full scan vs ISI | R@10/MRR 相同;显式评分条目减少 96.8% | 索引提速和表示质量是两条因果链 |
| RQ3,N=5,000,K=20 | SSR recall=0.950、E2E=0.885;BM25=0.970、0.895 | 先召回后选择有误差传播;未检出显著差异不证明统计等价 |
| RQ3 全目录 N=5,000 | 200 次请求均未成功;447,761 tokens 为估计 | 失败请求的成本估计不能冒充实际账单,成功延迟不能代表失败耗时 |
RQ2 的全扫描 top-K 一致性只在共同的 200-query 样本直接核验;公开 runner 把更大效果集的 full-scan 行标为解析等价,而非声称做完全部昂贵扫描。RQ3 的 K=20 另用不重叠检索查询作回顾性验证,不等于事前冻结的开发/测试划分。BM25 另次运行的延迟也不能作严格配对因果比较。
可复用的 runner 合同
固定 RQ3 代码分别记录 candidate_recall、conditional_selection_correct、end_to_end_correct、llm_attempted、api_success、候选 ID、解析错误、离线建索引时间、在线检索/推理及失败耗时。空池不扩大预算;API 成功的分母是 attempted calls,而不一定是全部查询。条件选择准确率还要求召回命中且 API 成功,所以不能脱离分母直接与召回率相乘当无条件成功率。
面向 wiki 的最小试验应:固定语料/查询和权限快照;先在开发集选 K 与 token cap,再冻结盲测;以当前 GLM 向量检索和 BM25 为基线;记录中文/英文、零召回、权限拒绝、正确页召回、模型真实消费和答案来源。本文不要求替换现有云端 embedding,更不要求安装本地模型。
失败模式与开放问题
- 中文失配:已读 MS MARCO tokenizer 使用
[a-z0-9]+、英文停用词及最多 64 个信号。该公开实现不能不加适配就当中文 wiki 检索器;本机只用同一正则验证纯中文字符串得到空 token,未执行下载代码。 - 表示截断:先放单词后放 bigram,再截断会改变哪些特征保留;“结构化”不意味着语义覆盖完整。
- 检索命中不是委托成功:MS MARCO passage 被代理成候选对象,不提供真实 Agent Card 端点、任务 lifecycle、auth、trace 或业务 effect;A2A 生产验收仍参照 a2a-jakarta-cross-node-state-and-effective-security。
- 目录不可信:Card/skill 的自然语言可能含注入;top-K 是上下文控制,不是 sandbox、输入信任或出站策略。
- 总成本漏算:离线构建、重索引、恢复和失败请求应计入实际 workflow;不能把作者成功调用均值移植为 Hermes 节省比例。
写入记录
- 2026-10-24 09:09 CST:新增 SSR 的三层预算、强基线、条件分母与固定 runner 阅读;明确中文 tokenizer、回顾性 K、选择与真实委托边界,作者实验不作本机复现。