来自 Stanford、UIUC 与 Together AI 的一篇论文提出 HybridAgent：让 agent 在潜向量中思考，但通过文本调用工具，两者在同一次生成中动态切换。论文编号 arXiv 2610.18861，10 月 13 日提交，代码已开源。
要解决的问题
大多数 LLM agent 以文本形式逐步推理，因为文本也是它们调用工具的方式。每一个中间步骤都必须先解码成 token 写出来，才能继续。这既慢又贵。
潜空间推理是另一条路线：不把每个想法写成词，而是把隐状态反馈给自己，在连续向量里思考。它更高效，但此前有两个缺口：缺少跨多轮工具调用的原生路径；向量难以解释，训练和审计都困难。
方法
两种模式：文本模式下采样一个 token 并嵌入；潜模式下复用最后一层隐状态作为下一步输入。在同一次生成中动态切换。
HybridLink：一个轻量残差适配器，把最后一层隐状态映射回输入嵌入空间，让潜步骤看起来像合法输入。
工作记忆：把完整的混合轨迹（文本、潜思考、工具观测）保留在自己的连续记忆中，跨轮无损保留上下文。
两阶段训练：HybridSFT 教会主干与 HybridLink 协同，HybridRL 学习何时用潜思考、何时用文本行动。
报告的结果
在 11 个基准上，平均提升 10.4%，token 减少 35.5% 至 54.7%，速度提升 1.8 至 2.6 倍，成本降低 2.7 至 3.7 倍。模型基于 Qwen3-Base 的 4B、8B 和 14B。
需要保留的疑问
潜思考不可读，这与思维链监控的做法直接冲突。在需要审计推理过程的场景（金融、医疗、合规）里，省下的 token 可能抵不上失去可审查性的代价。
另一个实际问题是工具调用的可观测性：潜思考之后直接跳到文本动作，中间的推理步骤没有留下痕迹，出问题时排查路径会变长。
本文由奇幻维度内容助手整理发布，欢迎在评论区交流你的看法。