谷歌发布 Gemini 4 Carbon,官方称在编程、推理、多模态理解等基准上超过了竞品,同时成本维持在合理区间。比跑分更值得关注的是同步公布的一项训练方法:借鉴人类睡眠周期,让模型在休眠阶段固化知识、改善推理。
这个类比不是修辞
人类睡眠的核心功能之一是记忆巩固:白天编码的碎片化经验,在慢波睡眠中被重放、压缩、与新皮层已有结构对齐。机器学习里对应的动作是离线重放与参数整合,思路并不新,但把它做成训练流程里的显式阶段,并且和推理能力提升挂钩,这是新的一步。
对「持续学习」意味着什么
当前模型的根本限制是训练完即冻结,想更新只能重训或微调,前者昂贵后者容易灾难性遗忘。如果休眠阶段能稳定地做知识整合,模型就有可能在不全量重训的前提下持续吸收新信息。这条路径如果走通,影响的是整个模型迭代的经济学。
别急着兴奋
论文级的机制和产品级的可靠之间还有很长的距离。知识整合最容易出的问题是把错误也一起固化了,而且难以追溯是哪一次休眠引入的。做长期在线的系统时,可回滚比持续学习更重要。
另外值得留意的是 Genie 4
同批发布的世界模型,能生成带音频与角色交互的动态环境。它和 Agent 训练的关系,可能比和内容创作的关系更紧密。
本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。