OpenAI 升级 GPT-6.1 Sol,把 Codex 与 Work 环境下的默认上下文窗口从 272k 提升到 500k,增幅约 80%。同时宣布所有订阅用户使用该能力无需额外支付长上下文费用,API 端超长上下文仍按标准计费。
500k 意味着什么
按中文粗略估算,500k Token 大约是 30 到 40 万汉字,相当于一整本技术书籍,或者一个中等规模代码库的全部源码加注释。
对开发者的直接价值
可以一次性把整个仓库塞进上下文,不用再做“先检索相关文件再提问”的两阶段流程。这减少了因检索漏文件导致的错误。
但别迷信窗口长度
长上下文有两个老问题依然存在。一是注意力稀释:窗口越长,模型对中段内容的关注度越低,这是位置编码与训练分布共同决定的。二是成本与延迟:即使不额外收费,推理延迟也随长度上升。
上下文压缩还会触发吗
会。500k 只是默认窗口,会话历史累积超过后仍会触发压缩。升级后触发频率下降,但机制没变。重要的结论建议在会话内显式记录,别指望模型一直记得。
API 端为什么还收费
订阅是按月固定价,API 是按量计价,成本结构不同。API 侧长上下文的 KV Cache 显存占用是实打实的,超长上下文仍按标准计费符合预期。
落地建议
如果你在做代码库级问答,先测两件事:一是把整个仓库塞进去和只塞相关模块的答案质量差多少;二是延迟能不能接受。很多时候,精准检索 20 个文件比塞进 500 个文件效果更好、更快、更便宜。
本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。