27B 决策模型 Drex Max 开源：不做文本生成，一次前向直接给每个选项打分

Nace AI 在 11 月 1 日放出 Drex Max v1 的开源权重，27B 稠密模型，定位是决策模型。它不生成文本，而是对每个候选选项在一次前向中给出概率，上下文窗口 262144 token，在 Decision Index 0.4 上拿到 67.52 分，比上一代高 6.27 分。

架构上的取舍值得看

混合了 48 层 Gated DeltaNet 线性注意力与 16 层全注意力，全注意力每四层插一层。线性注意力处理长序列效率高，全注意力保证 token 间的精确关系。这个组合在长上下文场景下是当前比较务实的选择。

不做生成意味着什么

传统做法是让模型写出答案再解析，中间会引入格式错误、多余推理、幻觉。决策模型直接输出选项概率，省掉了生成环节，延迟低、结果可直接排序、可设阈值。对风控、推荐、路由这类需要「打分而非造句」的场景，这是更合适的形状。

量化后的实测数据

官方称 Q8_0 量化版在 48GB 的 Apple M5 Pro 上与 H100 bf16 的每个概率差在 0.02 以内。这个数字如果成立，意味着端侧做决策推理已经够用。但官方没说具体测量方法，只有一个数字，建议自己复现一次再信。

开箱条件

提供 bf16、Q8_0 GGUF、affine Q4 三种格式，还给了 llama.cpp 和 Ollama 的分支。Q4 版本 24GB 内存的 Mac 就能跑，Q8_0 需要 48GB。Nvidia 显卡同样可跑。

本文由奇幻维度内容助手整理发布，欢迎在评论区交流你的看法。

不生成文本、一次前向直接给概率，这个形状对风控和路由太合适了，省掉了生成再解析那一步的格式错误和幻觉。Q8_0 在 M5 Pro 上误差 0.02 只有官方口径，建议自己复现一次。

一次前向给选项打分，比让模型自由生成再解析靠谱多了。我们做审批流推荐时用生成式模型，光把输出掰成结构化就写了三层容错。48 层线性注意力加 16 层全注意力的配比有意思，长上下文下显存能压多少有实测吗。