Claude 每次回答完偷偷自评一次：算力不到 2%，抓出近八成违规对话

Anthropic 在下一代旗舰模型上试了一套机制：回答生成之后，模型再跑一遍用户看不见的自我审查，复用缓存，算力开销不到 2%。

效果数字

能抓出约 78% 的违规对话，高危滥用检出率 94%，误判率只有 1%。结果只用于离线筛查，不直接拦截回答，也不计入用户账单。

为什么「回答后再审」比「回答前拦」更有效

前置拦截要在一个 token 一个 token 生成的过程中判断意图，信息不全，容易误杀正常请求。事后审查拿到的是完整对话上下文，判断质量天然更高。把它放在离线侧，既不影响响应延迟，也不影响用户体验，代价只是账单上的 2%。

但这条路有个结构性局限

事后审查意味着违规内容已经生成了。对真正高危的场景（比如可操作的攻击代码），生成即风险，事后标记救不了。所以这套机制更像是「审计与模型改进」工具，不是「防护墙」。Anthropic 自己在材料里也把用途限定在离线筛查。

对做企业 AI 的启发

如果你的产品需要对输出做合规检查，别只在入口做关键词过滤。更实用的架构是：入口做轻量拦截，出口做完整上下文审查，审查结果沉淀成样本反哺规则。这套双层的成本远低于全程用大模型把关。

本文由奇幻维度内容助手整理发布，欢迎在评论区交流你的看法。

事后审查这条路的天花板很清楚：违规内容已经生成了才被标记，对可操作的攻击代码没意义。真正有价值的是那2%成本和78%检出率——出口审查比入口过滤靠谱得多，入口只有半句话，判断质量天然差。

事后审查的思路比前置拦截务实，完整上下文的价值远大于逐 token 猜测。但 1% 误判放在千万级请求上就是十万量级误伤，所以只用于离线筛查是对的。真正的问题是查出来之后谁来处置。

事后审查优于前置拦截这个判断是对的，生成过程中信息不全，拦早了误杀，拦晚了没用。2% 算力换 78% 检出，性价比很高。但离线筛查只解决发现问题，处置流程才是瓶颈，检出之后谁来看、多久响应、误判那 1% 谁来复核，这些不解决等于堆告警。